太祖文皇帝姓宇文氏，讳泰，字黑獭，代武川人也。其先出自炎帝神农氏，为黄帝所灭，子孙遯居朔野。有葛乌菟者，雄武多算略，鲜卑慕之，奉以为主，遂总十二部落，世为大人。其后曰普回，因狩得玉玺三纽，有文曰皇帝玺，普回心异之，以为天授。其俗谓天曰宇，谓君曰文，因号宇文国，并以为氏焉。
普回子莫那，自阴山南徙，始居辽西，是曰献侯，为魏舅生之国。九世至侯豆归，为慕容晃所灭。其子陵仕燕，拜驸马都尉，封玄菟公。魏道武将攻中山，陵从慕容宝御之。宝败，陵率甲骑五百归魏，拜都牧主，赐爵安定侯。天兴初，徙豪杰于代都，陵随例迁武川焉。陵生系，系生韬，并以武略称。韬生肱。肱任有侠有气干。正光末，沃野镇人破六汗拔陵作乱，远近多应之。其伪署王卫可孤徒党最盛，肱乃纠合乡里斩可孤，其众乃散。后避地中山，遂陷于鲜于修礼。修礼令肱还统其部众。后为定州军所破，殁于阵。武成初，追尊曰德皇帝。太祖，德皇帝之少子也。母曰王氏，孕五月，夜梦抱子升·天，才不至而止。
寤而告德皇帝，德皇帝喜曰：“虽不至天，贵亦极矣。”生而有黑气如盖，下覆其身。及长，身长八尺，方颡广额，美须髯，发长委地，垂手过膝，背有黑子，宛转若龙盘之形，面有紫光，人望而敬畏之。少有大度，不事家人生业，轻财好施，以交结贤士大夫。
少随德皇帝在鲜于修礼军。及葛荣杀修礼，太祖时年十八，荣遂任以将帅。太祖知其无成，与诸兄谋欲逃避，计未行，会尔朱荣擒葛荣，定河北，太祖随例迁晋阳。荣以太祖兄弟雄杰，惧或异己，遂托以他罪，诛太祖第三兄洛生，复欲害太祖。太祖自理家冤，辞旨慷慨，荣感而免之，益加敬待。
孝昌二年，燕州乱，太祖始以统军从荣征之。先是，北海王颢奔梁，梁人立为魏主，令率兵入洛。魏孝庄帝出居河内以避之。荣遣贺拔岳讨颢，仍迎孝庄帝。
太祖与岳有旧，乃以别将从岳。及孝庄帝反正，以功封宁都子，邑三百户，迁镇远将军、步兵校尉。
万俟丑奴作乱关右，孝庄帝遣尔朱天光及岳等讨之，太祖遂从岳入关，先锋破伪行台尉迟菩萨等。及平丑奴，定陇右，太祖功居多，迁征西将军、金紫光禄大夫，增邑三百户，加直阁将军，行原州事。时关陇寇乱，百姓凋残，太祖抚以恩信，民皆悦服。咸喜曰：“早值宇文使君，吾等岂从逆乱。”太祖尝从数骑于野，忽闻箫鼓之音，以问从人，皆云莫之闻也。
普泰二年，尔朱天光东拒齐神武，留弟显寿镇长安。秦州刺史侯莫陈悦为天光所召，将军众东下。岳知天光必败，欲留悦共图显寿，而计无所出。太祖谓岳曰：“今天光尚迩，悦未有二心，若以此事告之，恐其惊惧，然悦虽为主将，不能制物，若先说其众，必人有留心。进失尔朱之期，退恐人情变动，乘·此说悦，事无不遂。”岳大喜，即令太祖入悦军说之，悦遂不行。乃相率袭长安，令太祖轻骑为前锋。太祖策显寿怯懦，闻诸军将至，必当东走，恐其远遁，乃倍道兼行。显寿果已东走，追至华山，擒之。
太昌元年，岳为关西大行台，以太祖为左丞，领岳府司马，加散骑常侍。事无巨细，皆委决焉。
齐神武既破尔朱，遂专朝政。太祖请往观之。既至并州，齐神武问岳军事，太祖口对雄辩，齐神武以为非常人，欲留之。太祖诡陈忠款，乃得反命，遂星言就道。齐神武果遣追之，至关，不及。太祖还谓岳曰：“高欢非人臣也。逆谋所以未发者，惮公兄弟耳。然凡欲立大功，匡社稷，未有不因地势，总英雄，而能克成者也。侯莫陈悦本实庸材，遭逢际会，遂叨任委，既无忧国之心，亦不为高欢所忌。但为之备，图之不难。今费也头控弦之骑不下一万，夏州刺史斛拔弥俄突胜兵之士三千余人，及灵州刺史曹泥，并恃其僻远，常怀异望。河西流民纥豆陵伊利等，户口富实，未奉朝风。今若移军近陇，扼其要害，示之以威，服之以德，即可收其士马，以实吾军。西辑氐羌，北抚沙塞，还军长安，匡辅魏室，此桓文举也。”岳大悦，复遣太祖诣阙请事，密陈其状。魏帝深纳之。加太祖武卫将军，还令报岳。岳遂引军西次平凉，谋于其众曰：“夏州邻接寇贼，须加绥抚，安得良刺史以镇之？”众皆曰：“宇文左丞即其人也。”岳曰：“左丞吾之左右手也，如何可废。”沉吟累日，乃从众议。于是表太祖为使持节、武卫将军、夏州刺史。太祖至州，伊利望风款附，而曹泥犹通使于齐神武。