太祖把这种情状上报，但还是害怕不能留驻淮阴，让荀伯玉占卜，荀伯玉断卦说不要动身前去，而明帝果然有诏恢复太祖本任官职，荀伯玉由此更被太祖当作亲信看待。跟随太祖返京都，被授予奉朝请。太祖让荀伯玉看管宅院，主持家务。世祖萧赜离开广陵返回京城，另建宅院，派人从大宅院中挖掘几棵树去，荀伯玉不给挖，骑马去报告太祖。太祖说：“你作主就是了。”荀伯玉转太祖平南府，晋熙王府参军。太祖为南兖州刺史，荀伯玉转为上镇军中兵参军，兼广陵令。授予羽林监，但他未接受任命。

当初，太祖在淮南，荀伯玉休假回广陵，梦见登上广陵城南楼，有两个身穿青衣的小孩告诉值王说：“草中肃，九五相追逐。”苞伯玉看见城下的人头上都有草。泰始一-L年，苟伯玉又梦见太祖在广陵北渚乘船，太祖两腋下有翅膀没有张开。荀伯玉问何时可张开，太祖说：“退后三年。”荀伯玉在梦中自称是咒师，向着太祖念咒语，咒六次，有六条龙出来，两腋下的翅都展开了，后来又收拢了。元徽二年，太祖破桂阳王体箠，威名大震。丞徽五年废黜苍梧王。太祖对值玉说：“爱卿那时的梦，现在都应验了。”

升明初年，仍为左担骠骑中兵参军，授予他步兵校尉，他没有接受任职命令。仍兼济阳太守，中兵官职依前未变。太祖既已建立霸王的勋业，荀伯玉对立担更加忠贞勤劳尽心尽力，常常侍卫左担左右。加封茎值王为前军将军。随太祖太尉府转中兵，将军、太守官职依前未变。建元元年，封南丰县子，食邑四百户。转任辅国将军，武陵王征虏司马，太守依前未变。徙为安成王冠军司马，转速童工司空谘议，太守官职依前未变。

世祖在东宫时，行事专断，颇不合法规。任用近侍退量真，让他主管东宫的衣食谷帛，赏赐的什物，都属皇帝御用的东西。张景真在南涧寺舍身供佛，有元徽皇帝用的紫皮裤褶，其余物品大都是这样。在銮游设会，伎人都穿着御用衣服。还把丝锦运输到蝓同外国商船买卖货物，每每让传令防送过童丛婆。世担拜陵返回时，张旦真身穿白服乘图画舴艋小船，坐胡床，观看的人都疑心是太子。内外害怕，没有人敢出来说话。荀伯玉对亲近的人说：“太子的作为，皇上始终不知道，怎能衹顾个人死活而使皇上的耳目受蒙蔽呢，我不告诉皇上知道，谁会告诉？”因而在世担拜陵后暗暗禀告立担。叁担大怒，检查东宫。世担返程时走到友山，曰暮打算停泊。豫童王从塞应乘飞燕快马向东来迎接世祖，把皇上生气的意思一一说明。世祖连夜返回，皇上停锁宫门等候他，二更尽，才入宫。皇上第二天派遣文惠太子、闻喜公王旦宣读皇上旨意，把张景真的罪状诏告世担。用太子的名义发令，收捕张量真并把他杀了。世担为此又忧又怕，称病一个多月。皇上怒气仍未消除。太祖白昼在太阳殿躺卧，翅0直接闯进来，叩头奏说：“皇上拥有天下的El子不长，太子无过错而被谴责，人情恐惧，希望皇上往东宫解释这次事件。”太祖于是驾临束宫，召集诸王以下的人在玄圃园设家宴，醉了才回去。

太祖欣赏荀伯玉对他尽心尽力，更加亲信他，关系军国的机密大事，多委派他去办。当时的人为此说：“十敕五令，不如苟伯玉的命令。”世祖对荀伯玉的怨恨很深。太祖临死时，手指荀伯玉对世祖说：“这个人对我很忠心，我身故后，必定有人给他捏造言语过失，你不要相信。可以让他到束宫长期侍奉白泽，最低也得用南兖州安置他。”

荀伯玉遭逢父丧，授予他冠军将军、南濮阳太守，他没有接受任职命令，授予他黄门郎，原本官职依前不变。世祖转苟伯玉为豫章王太尉谘议，太守职依前不变。不久又迁荀伯玉为散骑常侍，太守职仍依前不变。苟伯玉对世祖心存忧惧却又无计可施，世祖听说这种情况，又因他与垣崇祖关系密切，担心他们相互勾结而作乱，加意抚慰荀伯玉，荀伯玉才心安。

永明元年，诛杀垣崇祖，荀伯玉也被诛杀。