杜绝议论，只有撤退河东之兵，罢除建兴之戍，送归相州之粟，追还济州之军，命令蔡俊辞职，打发邸珍离徐，止戈散马，各治家业，所需粮食，另请转送。那么小人就会闭口，怀疑也就不会产生了。王在太原高枕无忧，朕在京洛无为而治，永不举足渡河，互不再动干戈。王若挥军南进，问鼎轻重，朕虽不武，欲止不能，一定要为社稷宗庙考虑，筹划出最好的计策。决策由王，非朕所能定夺，造山止篑，实在可惜。”此时魏帝让任祥兼任尚书左仆射，加开府仪同三司，任祥弃官逃到河北，占据地盘等候神武。魏帝于是下令凡是北方的文武官员去留听便，下诏公布神武罪行，为北伐筹划营谋。神武也停马宣言，说：“我见尔朱氏专权，便在天下举起义旗，辅佐皇上，义贯幽明，反被斛斯椿诬陷，把忠诚说成了叛逆。古代赵鞅兴晋阳之兵，诛杀君侧的恶人。今日南进，只不过是声讨斛斯椿而已。”委任高昂为前锋，说：“如果听了司空的话，那会有今日的举措！”司马子如回答说：“原本打算立一弱小者为帝，今天的行动就是为了这个目的。”

魏帝向关右征兵，召请贺拔胜赶往行所，派遣大行台长孙承业、大都督颍川王斌之、斛斯椿一同镇守武牢，汝阳王暹守石济，行台长孙子彦率领前恒农太守元洪略镇陕，贾显智带豫州刺史斛斯元寿讨伐蔡俊。神武指派窦泰和左厢大都督莫多娄贷文迎击显智，韩贤抵挡汝阳王暹。斛斯元寿部投降。窦泰、贷文在长寿津与贾显智相遇，显智秘密谈妥了投降事宜，就率众撤走。军司元玄发觉后，赶回行所，请求增兵。魏帝调遣大都督侯几绍奔赴前线，两军便在滑台东侧大战，显智带领兵士投降，侯几绍阵亡。

七月，魏帝亲自带领大军屯驻河桥。神武在距河北十余里的地方，再次派人表明诚意，魏帝没有理睬。神武就率军渡过黄河。魏帝向群臣问计，有的说往南投奔贺拔胜，有的说往西占据关中，有的说固守洛口决一死战。何去何从，无法决定。元斌之与斛斯椿因争权夺利，关系不洽，斌之留下斛斯椿抄小路跑到行所，蒙骗魏帝说：“神武的兵来了！”当天，魏帝逃往长安。二十九日，神武进洛阳，暂居永宁寺。

八月初四，神武召集百官会议，说：“为臣事主，拯救危乱，如果居于臣位而不谏诤，出门不相跟随，国家安宁时沉溺于荣华富贵，危急时如鸟兽奔散，臣节在哪里！”于是捕获开府仪同三司叱列延庆、兼尚书左仆射辛雄、兼吏部尚书崔孝芬、都官尚书刘。。、兼度支尚书杨机、散骑常侍元士弼等人，并全部处死，原因是他们对皇上不能尽忠，士弼籍没家人。神武认为好时机不可错过，便同百官商议，任命清河王。。为大司马，居尚书下舍而秉承意旨来决断大事。王出入称警跸，神武极为讨厌。不久，神武抵达恒农，于是向西攻下了潼关，活捉了毛洪宾。进军长安，龙门都督薛崇礼投降。神武率部后退，驻扎河东，命令行台尚书长史薛瑜守潼关，大都督厍狄温守封陵。筑城于蒲津西岸以守华州，便命令薛绍宗做刺史。高昂行豫州刺史事。神武从晋阳出发，到此时为止已向魏帝致函四十余件，都没有得到答复。

九月初十，神武返回洛阳，又打发僧人道荣奉表入送关中，还是没有答复。于是聚集百官、四门耆老，议论立谁为帝。神武认为从孝昌丧乱开始，国脉中断，神主无依，昭穆失序，永安帝以孝文帝为伯考，永熙帝迁孝明帝神主于夹室，功业丧失福佑短浅，根源就在这里。因此决定立清河王长子元善见。大家意见一致，便向清河王报告。王说：“天子无父，若立我儿，我会毫不悯惜自己的生命。”元善见即位，这就是东魏史上的孝静帝。从这时起，魏一分为二了。神武考虑到魏帝跑到了关中，担心他进逼崤、陕，洛阳又在黄河之外，接近梁境，如若进攻晋阳，两边不能很好衔接，就建议迁都于邺，护军祖莹赞同。诏书下达三日，车驾出发，户口四十万也狼狈上路。神武留在洛阳处理事务，事情办完后就回到了晋阳。从此开始，军政大事，全归相府处理。早些时候有童谣说：“可怜青雀子，飞到邺城里，翅膀快长成，变成鹦鹉子。”好事者私下议论，说雀子是魏帝清河王的儿子，鹦鹉是神武。

当初，即孝昌年中，山胡刘蠡升自称天子，年号神嘉，住居在云阳谷，魏的西部每年都要遭受寇掠，人们呼之为“胡荒”

天平二年(535)正月，西魏渭州刺史可朱浑道元率众归附，神武接纳了他们。十五日，神武袭击刘蠡升，获全胜。二十二日，魏帝下诏褒奖，任命神武为相国，授假黄钺，佩剑着鞋进宫殿，朝见不快步地走。神武坚辞不受。

三月，神武计划嫁女予刘蠡升的长子为妻，候其麻痹大意，十五日，偷偷地派出军队突袭。蠡升子北部王砍下其父脑袋送给神武。蠡升的部众又拥立其子南海王为帝，神武再次进攻，活捉了南海王及其弟弟西海王、北海王、皇后公卿等四百余人，得胡、西魏户五万多。二十六日，神武朝于邺。