后从太祖擒窦泰于小关，加授中军大都督。又从太祖攻弘农。胜自陕津先渡河，东魏将高干遁，胜追获，囚之。下河北，擒郡守孙晏。崔乂。从破东魏军于沙苑，追奔至河上。仍与李弼别攻河东，略定汾、绛。增邑并前五千户。河桥之役，胜大破东魏军。太祖命胜收其降卒而还。及齐神武悉众攻玉壁，胜以前军大都督从太祖追之于汾北。又从战邙山。时太祖见齐神武旗鼓，识之，乃募敢勇三千人，配胜以犯其军。胜适与齐神武相遇，因告之曰：“贺六浑，贺拔破胡必杀汝也。”时募士皆用短兵接战，胜持矛追齐神武数里，刃垂及之。会胜马为流矢所中，死，比副骑至，齐神武已逸去。胜叹曰：“今日之事，吾不执弓矢者，天也！”是岁，胜诸子在东者，皆为齐神武所害。胜愤恨，因动气疾。大统十年，薨于位。临终，手书与太祖曰：“胜万里杖策，归身阙庭，冀望与公扫除逋寇。不幸殒毙，微志不申。愿公内先协和，顺时而动。若死而有知，犹望魂飞贼庭，以报恩遇耳。”太祖览书，流涕久之。
胜长于丧乱之中，尤工武艺，走马射飞鸟，十中其五六。太祖每云：“诸将对敌，神色皆动，唯贺拔公临阵如平常，真大勇也。”自居重位，始爱坟籍。乃招引文儒，讨论义理。性又通率，重义轻财，身死之日，唯有随身兵仗及书千余卷而已。初，胜至关中，自以年位素重，见太祖不拜，寻而自悔，太祖亦有望焉。后从太祖宴于昆明池，时有双凫游于池上，太祖乃授弓矢于胜曰：“不见公射久矣，请以为欢。”胜射之，一发俱中。因拜太祖曰：“使胜得奉神武，以讨不庭，皆如此也。”太祖大悦。自是恩礼日重，胜亦尽诚推奉焉。赠定冀等十州诸军事、定州刺史、太宰、录尚书事，谥曰贞献。明帝二年，以胜配享太祖庙庭。
胜无子，以弟岳子仲华嗣。大统三年，赐爵樊城公。魏废帝时，为通直郎、散骑常侍，迁黄门郎，加车骑大将军、仪同三司，骠骑大将军、开府仪同三司。六官建，拜守庙下大夫。孝闵帝践阼，袭爵琅邪公，除利州刺史。大象末，位至江陵总管。
胜兄弟三人，并以豪侠知名。兄允字阿泥，魏孝武时，位至太尉，封燕郡王，为神武所害。
岳字阿斗泥。少有大志，爱施好士。初为太学生，及长，能左右驰射，骁果绝人。不读兵书而暗与之合，识者咸异之。与父兄诛卫可孤之后，广阳王元深以岳为帐内军主。又表为强弩将军。后与兄胜俱镇恒州。州陷，投尔朱荣。荣待之甚厚，以为别将，寻为都督。每居帐下，与计事，多与荣意合，益重之。荣士马既众，遂与元天穆谋入匡朝廷。谓岳曰：“今女主临朝，政归近习。盗贼蜂起，海内沸腾，王师屡出，覆亡相继。吾累世受恩，义同休戚。今欲亲率士马，电赴京师，内除君侧，外清逆乱。取胜之道，计将安出？”岳对曰：“夫立非常之事，必俟非常之人。将军士马精强，位任隆重。若首举义旗，伐叛匡主，何往而不克，何向而不摧。古人云：“朝谋不及夕，言发不俟驾”，此之谓矣。”荣与天穆相顾良久，曰：“卿此言，真丈夫之志也。”
未几而魏孝明帝暴崩，荣疑有故，乃举兵赴洛。配岳甲卒二千为先驱，至河阴。荣既杀害朝士，时齐神武为荣军都督，劝荣称帝，左右多欲同之，荣疑未决。岳乃从容进而言曰：“将军首举义兵，共除奸逆，功勤未立，逆有此谋，可谓速祸，未见其福。”荣寻亦自悟，乃尊立孝庄。岳又劝荣诛齐神武以谢天下。左右咸言：“高欢虽复庸疏，言不思难，今四方尚梗，事藉武臣，请舍之，收其后效。”荣乃止。以定策功，授前将军、太中大夫，赐爵樊城（郡）〔乡〕男。复为荣前军都督，破葛荣于滏口。迁平东将军、金紫光禄大夫。坐事免。诏寻复之。从平元颢，转左光禄大夫、武卫将军。
时万俟丑奴僭称大号，关中骚动，朝廷深以为忧。荣将遣岳讨之。岳私谓其兄胜曰：“丑奴拥秦、陇之兵，足为勍敌。若岳往而无功，罪责立至；假令克定，恐谗愬生焉。”胜曰：“汝欲何计自安？”岳曰：“请尔朱氏一人为元帅，岳副贰之，则可矣。”胜然之，乃请于荣。荣大悦，乃以天光为使持节、督二雍二岐诸军事、骠骑大将军、雍州刺史，以岳为持节、假卫将军、左大都督，又以征西将军代郡侯莫陈悦为右〔大〕都督，并为天光之副以讨之。时赤水蜀贼，阻兵断路。天光之众，不满二千。及军次潼关，天光有难色。岳曰：“蜀贼草窃而已，公尚迟疑，若遇大敌，将何以战。”天光曰：“今日之事，一以相委，公宜为吾制之。”于是进军，贼拒战于渭北，破之，获马二千疋，军威大振。