事情商议，徐勉说意见时总是充分论证，道理十分透彻，没有人能够驳倒他，同僚们都以他的意见为准则。

后又改任临海王西中郎田曹行参军，不久又转任都曹。同时的琅笽人王融是人所公认的才学之士，他特别钦佩和爱慕徐勉，曾经请求相互交往。徐勉对所亲近的人说：“王郎名气很高而所望过急，难以轻易成功。”王融后来果然陷于法网，由此可以见出他善于识人。累迁任军长史。

起初，徐勉就和长沙宣武王经常往来，梁武帝十分器重和赏识他。当梁武帝领兵到建邺时，徐勉在新林拜见他，梁武帝对徐勉十分加恩礼遇，让他掌管书记。梁武帝即位后，任命徐勉为中书侍郎，又晋为中书通事舍人，在内省值事。后又改任临川王后军谘议、尚书右丞。自从他到朝廷掌管法令之后，常常纠察违法行为，当时的议论都认为他是很称职的官员。

天监三年(504)，担任给事黄门侍郎，尚书吏部郎，参与选拔重要官吏的工作。又迁任侍中。这时梁军正大举进攻北魏，军使往来络绎不绝。徐勉参与军事，日夜辛劳，经常过几十天才回一次家。家里所养群犬不认识他而惊吠起来。徐勉叹息着说：“我因为忧心国事而忘家，竟然到了这种地步！到我死后，这也是传记中的一件事啊！”天监六年，任给事中、五兵尚书，又改任吏部尚书。徐勉负责选拔官员，他依照礼法选用很有规矩。徐勉擅写文书，更兼文辞善美，尽管经常公文案牍堆积，座客充盈满室，他应答如流，手不停笔。又精晓百家姓氏，能做到避开他们的讳字。他曾经和门人在夜间聚会，有位名叫虞日高的门客向徐勉请求让他担任詹事等官职。徐勉十分严肃地回答说：“今晚只能谈些风月的闲事，不宜论及公事。”所以当时人都佩服他的无私。天监初年，官员的名称设置互有增减，徐勉撰写了有关选官的簿籍上奏，朝廷下诏依照施行。这个办法是将九品列为十八班，从此以后冒贪和苟得官职的人因为有钱财物品而得到进用，而守道退隐者就因贫寒而没有出头之日了。

后徐勉任左卫将军，领太子中庶子，在东宫侍奉。昭明太子当时年幼，皇帝让徐勉教他懂得宫中之事，太子对徐勉非常敬重，各种事情都同他商量。有一次在殿内讲解《孝经》，临川王萧宏、尚书令沈约担任太子的师傅，徐勉和国子祭酒张充担任执经，王莹、张稷、柳忄登、王日柬任侍讲。这个阵容是当时最贤能的人所组成，当时人都赞誉这是极妙的人选。徐勉多次谦让，请求将他换为侍讲，武帝下诏不答应，他这才就任了。旧例由扬、徐两州首先选用主簿，全都挑选国内最有才能和最公正的人担任，当时选取了徐勉的儿子徐崧到南徐州。皇帝对他说：“卿本寒士，而你的儿子和王志的儿子一起先被选用，这是徐偃王以来所没有过的事啊！”徐勉认为梁武帝拿他的祖先来开玩笑，感到是一种耻辱，回答时对皇帝也不礼貌，于是被贬为散骑常侍，兼领游击将军。

后来徐勉又担任太子詹事，又改任尚书右仆射，仍兼太子詹事。当时民间治丧大多不按照礼制行事，早晨人刚咽气而晚上就殡葬了，相互比着快办。徐勉上疏朝廷说：“《礼记-问丧》篇中说：‘三天以后才收殓，这是期望有复活的可能。三天以后不能复活，也就活不过来了。’但近来都不遵从这礼制，送葬的礼法，一天就殡葬。豪门富家，甚至只有半天。衣裳被服棺木郭，以办得越快越荣耀。亲戚僮仆，也都想早些返回。所以墓穴刚刚挖好，灰石铁钉都已弄完。忘记了狐鼠悲哀同类，尚且频频回首而望；愧比于燕雀忧伤同伴，多次往来翱翔。其伤情害理的事情，无过于此了。况且为人之子，继承家业之日，心中忧愁悲伤之极，办理丧事各种资财，全由他经手。日常上下之间的爱憎深浅，实在难以清楚。如果日常探望欠缺，对其生死存亡违礼乱来，假如其间万一有违法之事，产生的怨恨惨酷就很多了。何不让其推迟收殓的时间，延长一点生还的期望。请从今以后，士民众庶均依古礼，三日之后大殓。如不遵从，严加纠治。”皇帝下诏赞同所奏。

又被任命为尚书仆射、中卫将军。徐勉认为自己早受皇帝知遇之恩，连续晋升重要职位，所以尽心侍奉皇帝，凡其所知，无不尽力而为。他自从负责选拔地位较低的官员起直至担任现今的重要职务，其间总是参与选拔人才的工作，深得士人之心。朝中机密事务，从未泄漏，每当有表章上奏后，当即烧掉草稿。他知识广博，精通经史，深晓古籍所载各种史实。在齐朝的王俭任职之后，没有一个人比得上徐勉。凡朝中的礼仪和国家的大典，婚礼、加冠、吉事、凶服等，徐勉全都参与意见。