这时河北葛荣为首的六镇起义部队向洛阳进发，人百万。相州刺史李神俊紧闭城门守。尔朱荣率七千精锐骑兵，每人正副两匹马，日夜兼程向东开出滏口。葛荣听这情况喜形于色，令部下军士每人准备条长绳，打算把尔朱荣的军队手到擒来，一一捆捉。葛荣军队在邺城以北列十里长阵，张开两翼向前推进。尔朱荣在四周山谷埋伏部队作奇兵，督将以上将领每三个人分派一处，每处几百名骑兵，让各处飞扬尘土，呐喊鼓噪，使敌军无法知有多少军队。又考虑到骑兵贴身近战，与刀相比用棒更方便，暗中下令给军士，马上各携带袖棒。交战时为不至妨碍奔驰追逐，不要求斩敌军头，袖棒把他们打倒可。分派精锐军士，哪部分在何处作战，号令严明，将领士卒情绪高涨。尔朱荣一马当先，率军从葛荣军队后绕出，冲锋陷阵。各小股军队协同作战，内外进击，大败葛荣军队，在阵中活捉葛荣，他部众投降。尔朱荣担心他们有猜疑就广泛下令，让他们各自找爱去的地方，准许让亲属追随，自选安身之地。投降的军士高兴，顿时奔散。十万军队散光。这些人走出百里才派人分路押送统领，找合适的地方安置，各路都处理得好。对擒获的葛荣部将尔朱荣根据才加以委用，使投降的人安心。当时人佩服尔朱荣对投降部队处理敏捷又妥善。用囚车把葛荣押送洛阳。孝庄帝下诏加授尔朱荣大丞相，都督河北诸军事。
起初尔朱荣将出兵征讨葛荣，部队开到襄垣大规模围猎。两兔子从马前窜过，尔朱荣弯弓搭箭对天祈祷：“射中表明能生擒葛荣”两兔子应弦而死，全军将士振奋。到战役结束后尔朱荣令在围猎地方立块碑纪念，另外交战头天夜里尔朱荣梦见有人向葛荣索要千牛。葛荣不肯给，这人就声称自是北魏开国帝道武帝，葛荣便奉上，这人又转给尔朱荣。尔朱荣梦醒后高兴，
北魏朝廷下诏把冀州长乐郡、相州南赵郡、定州博陵郡、沧州浮阳郡、辽西郡、燕州郡，幽州的渔阳郡，每郡一万户，再加以前所封户数共十万户，作尔朱荣封国太原国的食邑。同时加太师头衔。
孝庄帝改元建义，北魏北海王元颢逃到南方投奔梁朝。梁朝立他为魏王，并资助兵将。当时河间人邢杲在山东响应元颢。北魏朝廷认为元颢势单力弱不足虑。永安二年春下诏，派元天穆率军平定山东，再伐元颢。元颢趁洛阳兵力空虚长驱直入，荥阳、虎牢被攻占，孝庄帝逃到黄河。尔朱荣闻讯，乘驿传急驰到上党郡长子县的行宫朝见孝庄帝，孝庄帝才转而向南进发。尔朱荣亲自前驱，十天里各地兵马纷纷来集合。元天穆平定邢杲起义，渡黄河来会合。孝庄帝进河内。尔朱荣与元颢隔黄河相持，但没船，一下子过不去。和诸位大臣、僚属商量打算收军北撤，再另作伐元颢。黄门郎杨侃、高道穆反对，恰好马渚地方有几户姓杨的报告有几艘小船，求担任向导。尔朱荣令都督尔朱兆率精锐骑兵夜渡黄河。元颢猝不及防，仓惶逃。孝庄帝渡黄河，进洛阳的华林园。下诏加授尔朱荣为天柱大将军，加封户，与以前合计二十万户。又赐给他鼓吹仪仗。
尔朱荣随后回晋阳对朝廷遥控。亲戚、心腹都在朝廷任要职。在朝百官举动，这些人向尔朱荣汇报。任命官员须经尔朱荣批准。孝庄帝被权臣控制，但勤于政事，从早到晚听取汇报，处理政务。屡次审理冤狱，过问刑法诉讼。又因官吏选拔没标准、粗滥，与吏部尚书李神俊商量严肃选拔官吏纲纪。尔朱荣对孝庄帝屡加责难。有次尔朱荣批文委任一人做定州曲阳县令，李神俊认为此人级别低，不够资格，没奏闻。尔朱荣知后怒，派他委任的人去任所强夺官位。每次尔朱荣使节到洛阳，就算本地位低下人，朝中的达官贵人见到他低声下气、献媚讨好。等到皇宫门口，一时没得通报入见，仗着尔朱荣权威当场发脾气。李神俊便向孝庄帝上表求辞职。尔朱荣打算启用他堂弟尔朱世隆掌管官员选任，孝庄帝不好反对。有次尔朱荣奏请选用北边部族人充任河内地区各州长官，希望与他构成掎角呼应之势，孝庄帝没答应。元天穆入宫晋见孝庄帝论及此事，孝庄帝仍不同意。元天穆说：“天柱大将军为国有大功，做到宰相，就算求全更换天下所有官员吏属怕陛下答应。为啥启奏几人任州官不同意？”孝庄帝板起面孔说：“天柱大将军如不想做臣子，朕应被换。如他要保持臣节，没更换天下百官的理”尔朱荣听后怒说：“当今子靠谁登皇位？我都不听！”尔朱荣女儿孝庄帝皇对孝庄帝聘娶妃嫔不满，多妒忌举动。孝庄帝派尔朱世隆向她晓谕做妻子的道理，尔朱皇后说：“天子由我们家扶上，现在便这样。要是当时我父做帝有这些事？”尔朱世隆说：“大哥不想做罢，要是他做帝臣早封亲王”孝庄帝整天闷闷不乐，感觉不到帝的尊贵。
此前葛荣分枝韩娄占据幽州平州。尔朱荣派遣都督侯深进讨，杀韩娄。当时万俟丑奴、萧宝夤聚众占据关中、泾州地区，尔朱荣派堂侄尔朱天光出任雍州刺史