洛阳城中的南方士兵不足一万人，而羌、胡等族的士兵是他们的十倍，军副马佛念对陈庆之说：“将军威名传遍黄河、洛水一带，声震中原，功劳高、权势重，被北魏人猜忌，一旦发生意外变故，能不担心吗！不如趁他们没有防备，杀掉元颢，占据洛阳，这是千载难逢的机会。” 陈庆之不听。元颢先任命陈庆之为徐州刺史，陈庆之于是坚决请求前往镇守，元颢内心忌惮他，不派人马，说：“梁武帝将洛阳之地全权托付给你，突然听说你舍弃朝廷的重托，想去彭城，会认为你急于追求富贵，不为国家着想，这不仅会损害你的声誉，恐怕我也会受到牵连。” 陈庆之不敢再说话。
尔朱荣与元颢在黄河两岸相持。陈庆之镇守北中城，元颢亲自占据南岸；陈庆之三天之内经历十一场战斗，杀伤大量敌军。有一位夏州的义士为元颢镇守黄河中的沙洲，暗中与尔朱荣勾结，请求破坏桥梁立功，尔朱荣领兵赶赴沙洲。等到桥梁被破坏，尔朱荣的军队未能及时接应，元颢将沙洲上的义士全部屠杀，尔朱荣怅然失望。又因安丰王元延明沿黄河固守，而北方的军队没有船只可以渡河，尔朱荣商议想返回北方，再作打算。黄门郎杨侃说：“大王从并州出发时，是已经知道夏州义士的谋划才前来接应，还是想广施谋略匡复帝室呢？用兵之道，何尝不是打散后再聚合，伤口愈合后再作战；何况如今我们没有遭受损失，怎么能因一件事不顺就放弃所有计划呢！如今四方百姓都翘首以盼，注视着大王的举动；如果没有取得成功就仓促返回北方，百姓会感到失望，各自产生离去的想法，胜负难料啊。不如征调百姓的木材，多制造木筏，夹杂着船只，沿黄河排列，数百里之内都摆出渡河的态势，首尾相距遥远，让元颢不知道该防备哪里，一旦渡过黄河，必定能建立大功。” 高道穆说：“如今陛下漂泊在外，君主忧愁，臣子应当感到耻辱。大王率领百万大军，辅佐天子号令诸侯，如果分兵制造木筏，在各处分散渡河，攻克洛阳易如反掌；为什么要舍弃这个机会返回北方，让元颢重新集结兵力，向天下征兵呢！这就是所谓的养虎为患，后悔也来不及了。” 尔朱荣说：“杨黄门已经提出了这个计策，我们应当一起商议。” 刘灵助对尔朱荣说：“不出十天，黄河以南必定平定。” 伏波将军正平人杨忄剽与同族居住在马渚，自称有几艘小船，请求担任向导。戊辰日，尔朱荣命令车骑将军尔朱兆与大都督贺拔胜捆绑木材制造木筏，连夜从马渚西边的硖石渡过黄河，袭击元颢的儿子领军将军元冠受，将他擒获；安丰王元延明的部众听说后，大败溃散。元颢失去据点，率领部下数百名骑兵向南逃走，陈庆之收拢几千步兵骑兵，结成阵势向东返回，元颢所攻占的各座城池，一时间又都投降了北魏。尔朱荣亲自追击陈庆之，恰逢嵩高山洪水暴涨，陈庆之的士兵几乎全部死散，于是陈庆之剪掉头发胡须，装扮成和尚，从小路逃出汝阴，返回建康，梁武帝仍因他的功劳任命他为右卫将军，封永兴县侯。
中军大都督兼领军大将军杨津进入宫殿住宿，打扫宫殿庭院，封闭府库，前往北邙迎接北魏孝庄帝，流泪谢罪，孝庄帝安抚慰问他。庚午日，孝庄帝进入华林园居住，大赦天下。任命尔朱兆为车骑大将军、仪同三司，向北而来的军士及跟随孝庄帝、文武官员中起义立功者晋升五级，黄河以北报告消息的官员及黄河以南起义立功者晋升二级。壬申日，加授大丞相尔朱荣天柱大将军，增加封邑，加上之前的共二十万户。
北海王元颢从轘辕关向南逃到临颍，随从骑兵四散奔逃，临颍县士兵江丰将他斩杀；癸酉日，将元颢的首级传送到洛阳。临淮王元彧再次主动归附孝庄帝，安丰王元延明携带妻子儿女前来投奔梁朝。
陈庆之进入洛阳时，萧赞（萧综）送信请求返回梁朝。当时吴淑媛还在世，梁武帝派人把萧赞幼时穿的衣服寄给他，信件还未送达，陈庆之就已战败。陈庆之从北魏返回后，特别敬重北方人，朱异感到奇怪，询问原因，陈庆之说：“我起初以为长江以北都是戎狄居住的地方，等到了洛阳，才知道有学识、有礼仪的人物都在中原，不是江东能比得上的，怎么能轻视他们呢？”
甲戌日，北魏任命上党王元天穆为太宰，城阳王元徽为大司马兼太尉。乙亥日，孝庄帝在都亭宴请慰劳尔朱荣、上党王元天穆及向北而来的都督将领，拿出三百名宫女、几万匹各种颜色的绸缎，按等级赏赐众人，凡是接受元颢爵位、赏赐、官阶及赦免的人，