孝昌元年(525年)，高欢和他的一伙尉景、段荣、孙腾、侯景等投到杜洛周麾下。过了一阵，看他没有什么希望，想夺权又不成，只得逃走。他逃时拖家带眷，娄氏骑在牛上，抱了一儿一女，后有追兵，跑不快又抱不牢孩子。儿子高澄几次落牛，高欢己经想把他射杀，以免落入敌手，弓都拉开了，幸得段荣把他救起，才得一同脱身。
     高欢离了杜洛周，投奔过葛荣，又逃走去投尔朱荣。高欢旧时结识的刘贵早已在尔朱荣麾下，竭力向他推荐高欢。但是这时的高欢，已两经流亡，形容憔悴，尔朱荣看不出他有何出众之处，没有立即重用。有一次，高欢跟着尔朱荣走到马厩旁，厩中有匹劣马，没有人能制服它。尔朱荣想看高欢有什么能为，叫他去修这匹马的马鬃。高欢本是驯马的能手，他顺利地完成后，对尔朱荣说：“驾驭恶人同养马是一样的道理。”尔朱荣听他出语不凡，才同他谈论时事。秀容在今晋北朔州一带(一作忻州一带)，尔朱氏的领地周围三百里，地形复杂。尔朱氏是契胡酋长，部众精于骑术。尔朱荣养了十二个山谷的马，每谷马的毛色完全一律。高欢就借此为题，问“养了这么多马，做何用途?”尔朱荣并不正面回答，反而要求高欢谈自己的意见。于是高欢提出讨徐、郑以清君侧的意见(参见上篇)。尔朱荣听了，大有深得我心之感，两人谈得投机，从日中直到半夜才歇。从此高欢经常参与军谋，成为尔朱荣的得力助手。
     河阴事件前后正是葛荣势力最强的时候。孝昌三年，葛荣打破信都，围攻邺城：孝庄帝建义元年八月，葛荣第二次围攻邺城。九月，尔朱荣率侯景等七千骑兵，每人都备副马，东进救邺。葛荣仗着数量上的绝对优势，以为必胜无疑，对部下说：“多带长绳，抓到就缚。”他在邺城以北，列成长达几十里的阵形，想一举把敌军包围歼灭。尔朱荣把部队分成若干处，每处三员将、几百名骑兵，潜伏在山谷中间，到处扬尘鼓噪，造成声势，使敌人弄不清楚有多少人马。他下令：每人带一根棒，见敌就打，不准下马斩级，以免浪费时间。秀容胡骑奋勇冲击，尔朱荣亲自带队冲锋，绕到敌后，前后合击，大破敌军，并在阵上生擒葛荣，余众全部投降。他命令降众，愿往何处，便往何处。降兵大喜，几十万人一日之内便分散完毕。押领的官在一百里外的各条路上等候，把降众分别集中起来，进行安置，原来的首领都量才录用，使降官管理降众，进行得非常顺利。北魏为这次胜利，把年号建义改为永安。葛荣被押到洛阳，魏孝庄帝开宫门引见后，把他斩首。

     尔朱荣俨然是北魏的大功臣了。永安二年(529年)，他还帮过孝庄帝一个大忙：这年五月，梁将陈庆之送上年投梁的魏北海王元颢进洛阳，孝庄帝仓皇出走(详见第四十六篇)。闰六月，尔朱荣反攻洛阳，陈庆之撤走，元颢逃亡被杀。尔朱荣俨然是再造社稷的大功臣。残存的反魏各军也陆续为尔朱氏的部队消灭，到永安三年(530年)万俟丑奴与萧宝寅在平凉被尔朱天光擒获。至此，自从正光四年以来的各种反魏武装，可以说是完全覆没了。然而孝庄帝并不以全胜为可喜，甚至觉得自己根本不像是个皇帝。
     九月，尔朱荣到洛阳朝见孝庄帝，被孝庄帝和几个亲信乱刀斫死。消息传出，洛阳城里欢声动地。然而这实在是轻举妄动。十月，尔朱兆、尔朱世隆在晋阳立太原太守长广王元晔为皇帝，改元建明，尔朱兆做了大将军。十一月，向洛阳进兵。其时高欢在晋州(今山西临汾)做刺史。尔朱兆要他同去，他推说“山蜀(汾晋山区中保聚山寨的蜀人)尚未平定”，不肯同去。他对尔朱氏的所作所为，此时至少已经不很赞同。但是《北齐书·神武本纪》说的“兆举兵犯上，此大贼也”，恐伯是史官粉饰之词，即使有之，也是出于反尔朱氏的需要而已。十二月，尔朱兆兵到洛阳，抓住孝庄帝，把他带回晋阳缴死。这个倒霉皇帝只活了二十四岁。
     尔朱兆到洛阳捉皇帝，并不费力，但是当河西(北河以西，即黄河河套西北角以西，指今内蒙古磴口一带的黄河两岸)“贼帅”纥豆陵步蕃应孝庄帝之命来袭秀容时，却抵敌不过，不得不向高欢求救。幕僚都劝高欢不踩，高欢却认为此时尔朱兆正在着急，不会有别的念头，即引兵往救，与尔朱兆协同作战，杀死步蕃。尔朱兆很感激，与高欢起誓，结为兄弟。把葛荣旧部交给高欢统率，就是这个战役以后的事情。
     上文说过，尔朱荣让葛荣部众愿往何处，便往何处。其中流入并州、肆州(并州治今山西太原西南，肆州治今山西忻州，二州指今山西省中部)的有二十多万人。他们和契胡杂处，常受胡人欺凌虐待。两三年间，发生过二十六次大小不等的反抗行动，杀掉了一半，仍旧不能解决问题。尔朱兆向高欢请教。高欢说不能靠杀，应该挑选心腹将领作统领，有人犯法，惟首脑是问，这样就容易管。尔朱兆赞道：“好主意，谁能担当?”贺拔允在座，就推荐高欢。高欢心中暗喜，怕尔朱兆生疑，便佯装发火，朝他嘴上一拳，打断了他的一颗牙齿，骂道：“天下事都由大王作主，阿鞠泥(贺拔允的别名)胆敢胡说，该杀!”尔朱兆当他真心，当场决定交给他统率。高欢见他有些醉意，怕他清醒后反悔，立即出去宣布：“受委统州镇兵，一律到汾水东岸集中听令。”葛荣旧部本是六镇之人，后来孝明帝改镇为州，所以有州镇兵这个名称。
     不久，高欢又使刘贵向尔朱兆提出“就食山东”的要求。理由是：并、肆二州连年受灾，降户在田里挖田鼠吃，人人面黄肌瘦，希望到山东粮食丰富的地方去，等温饱以后再回来听候安排。
     尔朱兆很爽快地同意了。长史慕容绍宗劝他不要答应，说：“现在天下很乱，高公雄才盖世，再使他握重兵在外，譬如把云雨借给蛟龙，一旦存了异心，将无法制服。”尔朱兆是个蠢汉，竟说：“我们起过誓结为弟兄，有何可虑?”慕容绍宗早己看穿高欢要脱离尔朱氏掌握的野心，冷冷地道：“亲兄弟有时还不好相信，何况是结义弟兄!”当时尔朱兆左右亲信都已经拿到高欢的钱财，大家说绍宗和高欢有仇，故意说他的坏话。尔朱兆听了大怒，把慕容绍宗关起来，并且催高欢早日出发。