，被豪侠们所尊崇。两眼炯炯有神，长脖子高颧骨，齿白如玉石，少有的俊杰伟人风度。家境贫寒，到与武明皇后行定婚礼时，才开始有马，当兵入镇做了队主。镇将辽西人段长时常惊叹神武帝的容貌，对他说：“君有济世安民之才，不会虚度一生的。”并且将子孙托付给他照顾。当神武大富大贵之时，追赠段长为司空，提拔他的儿子段宁做了官。神武帝从队主升任函使。有一次乘驿马经过建兴，这里顿时云遮雾障，随之雷声隆隆，许久才停息下来，好像是神灵在相互应和。每当他骑马上路，去去来来却没有风尘升腾。又曾经梦见自己穿着很多星辰做成的鞋在赶路，醒来时暗自高兴。做了六年的函使，每次到洛阳，都被令史麻祥驱使。祥曾经让神武吃肉，神武没有站着吃的习惯，便坐下来吃了。祥认为神武坐着吃是大不恭敬，用鞭子狠狠地将他抽打了四十多下。从洛阳回来后，神武倾尽所有来网罗人才，亲戚朋友无法理解这种行为，就向他打听。神武回答说：“我到洛阳，看到宿卫、羽林的兵士接连几次放火焚烧领军张彝的住宅，朝廷害怕兵变不敢惩办凶手，像这样执掌国政，事情的结果就可想而知了。钱财物品难道可以永远归自己所有？”从此开始，便有了澄清天下的志向。同怀朔镇省事云中人司马子如、秀容人刘贵、中山人贾显智成了奔走之友，怀朔镇户曹史孙腾、外兵史侯景也成了神武的好朋友。刘贵搞到过一只白猎鹰，和神武以及尉景、蔡俊、子如、贾显智等一块到沃野打猎。看见一只赤兔，纵鹰追赶，兔子却逃跑了，他们循着兔子跑的方向，追到了深泽之中，深泽里有座茅屋，兔、鹰正想跑进去的时候，有条狗突然从屋里冲了出来，咬死了赤兔白鹰。神武见此大怒，用响箭射死了狗。见狗被杀，屋内一下子跳出两个人，抓着了神武的衣领，扭着不放。这两个人的母亲双目失明，拖着拐杖喝斥道：“为何触犯大家？”令二子取出瓮中好酒，杀猪宰羊，盛情款待神武一行。又自称会相面，将来人一一抚摸，结论都是大贵之相，不过，均得由神武统领节制。还说：“司马子如居官显赫，贾显智却不能善终。”饭毕出门，行了几里地后再返原地时，哪里还见人烟屋舍，原来那老妇是个神灵仙人。因此，朋友们越发尊崇神武。

孝昌元年(525)，柔玄镇人杜洛周在上谷扯旗造反，神武便和志同道合者参加了他的队伍。由于瞧不起杜洛周的行事，私自与尉景、段荣、蔡俊等谋划，试图杀死杜洛周，没有成功，而遭杜氏的骑兵追捕。文襄帝及魏永熙皇后两人年纪都小，武明皇后坐在牛背上抱着这两个孩子。文襄几次从牛背上滑落下来，神武准备射死这个儿子好快些逃走。武明皇后恳求段荣救助，多亏段荣夺下神武手中的弓箭，文襄才幸免于死。神武投奔葛荣，又逃亡到秀容，归顺了尔朱荣。早些时候，刘贵服事尔朱荣，极力赞誉神武之美，此时才得见面，由于疲劳憔悴，没有引起尔朱荣的惊奇。刘贵便帮神武更衣换鞋，又一次见了面。继而跟着尔朱荣进到了马厩，厩中关着匹烈马，尔朱荣命令神武将它绑缚起来。神武未用马络头就捆绑住了，而且马一直是服服贴贴的。完事后，站起身来说：“制服恶人就像降服这匹马一样。”尔朱荣便请神武坐于椅子上，摈除左右向他请教时事。神武说：“听说您在十二座山谷里喂养着马匹，以马的颜色划分为群，如此做有何用意？”尔朱荣说：“你尽管谈你的高见吧。”神武说：“当今天子愚笨懦弱，太后淫乱，小人专权，朝政混乱，以您的雄才武略，乘此良机作为一番，讨伐郑俨、徐纥，清除帝侧，成就霸王之业不过是举手之劳。这便是我贺六浑的看法。”尔朱荣大喜过望，从中午一直谈到深夜，神武才告辞离去。从此之后多次参预机密。后随尔朱荣移据并州，入扬州邑人庞苍鹰宅，住在圆形草屋中。每次从外边回来，即使他还在很远的地方行走，屋主人都能听到十分响亮的脚步声。苍鹰的母亲多次看到草屋顶上赤气冲天。有次苍鹰打算潜入神武的草屋，却被一执刀的青衣人拦住，叱问道：“为何触犯大王？”说完，便没了身影。苍鹰开始惊异了，曾密密地窥视，只见一条赤蛇蟠卧在床上，因而更加惊讶。于是宰牛割肉，以厚礼相待。苍鹰之母请求神武做自己的义子。到神武得志，将苍鹰的住屋作为寝宫，唤作“南宅”宽门大户，屋室高敞，他曾经居住过的茅草屋，其墙则用石灰涂抹，认真加以保护，到文宣帝时便成了宫殿———不久，尔朱荣便任命神武做了亲信都督。

此时，北魏孝明帝不满郑俨、徐纥等人逼迫灵太后的行为，但却不敢下诏制裁，就偷偷下令尔朱荣举兵围攻都城。尔朱荣指派神武为前锋。军队抵达上党，明帝又秘密下诏，命令停止前进。到明帝突然驾崩时，尔朱荣才举兵进入洛阳，准备趁机篡政。神武进谏，怕他不听，就请铸铜像卜其吉凶，铜像没有铸成，因此尔朱荣也就停止了篡权活动。魏孝庄帝即位，由于定策的功劳，