准奏告，罚金二两。拜为驸马都尉，任著作郎，因母亲去世免官。为司空太尉二府参军，安成王文学。徐孝嗣的姑姑嫁给东莞的刘舍，刘舍的哥哥刘藏是尚书左丞，徐孝嗣去拜访他。刘藏回去对刘舍说：“徐郎是堪任尚书令和仆射的人才，等到他三十多岁就可以知道了。你要好好结交他。”

升明年间，迁为太祖骠骑从事中郎，兼任南彭城太守，随主人转为太尉谘议参军，仍兼南彭城太守。齐建置台阁，任为世子庶子。建元初年，世子的封国撤销，出任晋陵太守，回朝做太子中庶子，领长水校尉。没有拜领，为宁朔将军、闻喜公子良的征虏长史，迁任尚书吏部郎，太子右卫率，转任长兼侍中。他步态优雅，举止安闲，和太宰褚渊相媲美。世祖对他非常好。尚书令王俭对别人说：“徐孝嗣将来一定会做宰相。”转任御史中丞。世祖问王俭说：“谁可以接替你呢？”王俭说：“我辞官退休之日，接替我的一定是徐孝嗣吧!”出任吴兴太守时，王俭赠给徐孝嗣一首四言诗：“和叔茂并驾齐驱，直追彦辅。柔软的并不吃下，刚硬的也不吐出。”当时的人都把他的行为和蔡子尼行状上说的相比。在郡上称为贤能之人。正碰上王俭死了，皇上征辟徐孝嗣为五兵尚书。

这一年，皇上命令仪曹令史陈淑、王景之、朱玄真、陈义民撰写晋南迁以来的仪礼典章，让他们向徐孝嗣请教。第二年，迁任为太子詹事。跟随世祖游幸方山。皇上说：“我打算经营这山的南面，作为营造行宫的地方。所以应该超越灵丘。”灵丘的山和湖，是新林苑。徐孝嗣回答说：“绕过黄山，直抵牛首山，是鼎盛汉朝的事。现在江南地方不够开阔，人民也正劳苦不息，希望陛下稍稍谨慎从事。”皇上竟然没有修建什么。竟陵王子良很喜爱他。子良喜欢佛法，让徐孝嗣和庐江何胤掌管斋戒、讲论佛法事务和众僧事务。转任为吏部尚书。不久加封右军将军，转领太子左卫率。台阁中的大事大多委托给他。

世祖去世，遗书中命他转任为右仆射。隆昌元年，迁散骑常侍、前将军、丹阳尹。高宗谋划废掉郁林王，把这事告诉徐孝嗣，徐孝嗣接受了他的旨意没有异议。高宗上殿，徐孝嗣穿着战服跟在后面。郁林王已经死了，高宗还在等待太后的命令，徐孝嗣从袖子襄拿出来交给他，他非常高兴。因为废郁林王立下了功劳，封为枝江县侯，食邑一千户。赐给一部鼓吹，上殿带领穿甲衣的仪仗五十人。转为左仆射，常侍职位如故。明帝即位，加侍中、中军大将军，拥立明帝有功，爵号进为公，增封食邑二千户。赐给班剑仪仗二十人，加兵卒一百人。过去拜任三公才要皇上不坐正殿而到殿前，这时皇帝特地诏令让他和陈显达、王晏一起到殿前拜授。

北方的少数民族发动战事，诏令徐孝嗣暂且持节驻守新亭。当时王晏是尚书令，他所受的民众拥戴，还不如徐孝嗣。王晏被杀，孝嗣就转任为尚书令，领本州中正，其他的官衔都和过去一样。俭圣园喜好文学，志趣清雅出众。他器量宏大，不自夸自己的权势，所以在建武年间能被容身。恭敬自律以求保身，朝廷和在野士人都因此称赞他。

当初，徐孝嗣任太子卫率，白天躺在书斋的北墙下，梦见两个小孩突然说：移一下您的床。”徐孝嗣受惊起来，听见墙里有声音，走了几步墙就倒下来压住了他的床。建武四年，就以本号封赐开府仪同三司。徐孝嗣听见这样的诏令，表情严肃地对左右的人说：“我的德行比起古人来令人惭愧，而却要占据上公的职位，怎么能够承受。圣明的君主可以用道理来使他改变主意，我一定以死相请。假如不获批准，我就要戴上头巾，回归田园，在家中等待获罪了。”坚决推辞不肯接受。