采椽不斫，紫极故材，为宣阳门，臣等未譬也。夫移心疾于股肱，非良医之美；畏影迹而驰鹜，岂静处之方？且又三农在日，千轸咸事，辍望岁之勤，兴土木之役，非所以宣昭大猷，光示遐迩。若以门居宫南，重阳所属，年月稍久，渐就沦胥，自可随宜修理而合度。改作之烦，于是乎息。所启谬合，请付外施行。”上手诏酬纳。

宋世外六门设竹篱，是年初，有发白虎樽者，言“白门三重关，竹篱穿不完”上感其言，改立都墙。俭又谏，上答曰：“吾欲令后世无以加也。”朝廷初基，制度草创，俭识旧事，问无不答。上叹曰：“《诗》云‘维岳降神，生甫及申。’今亦天为我生俭也。”

其年，俭固请解选，表曰：“臣远寻终古，近察身事，邀恩幸藉，未见其伦。何者？子房之遇汉后，公达之逢魏君，史籍以为美谈，君子称其高义。二臣才堪王佐，理非曲私，两主专仗威武，有伤宽裕，岂与庸流之人，凭含弘之泽者同年而语哉？预在有心，胡宁无感！如使倾宗殒元，有益尘露，犹当毕志驱驰，仰酬万一，岂容稍在形饰，以徇常事！九流任要，风猷所先，玉石朱素，由斯而定。臣亦不谓文案之间都无微解，至于品裁臧否，特所未闲。虽存自勖，识不副意，兼窃而任，彼此俱壅，专情本官，庶几仿佛。且前代掌选，未必具在代来，何为于今，非臣不可？倾心奉国，匪复退让之与；预同休戚，宁俟位任为亲。陛下若不以此理赐期，岂仰望于殊眷。频冒严威，分甘尤戾。”见许。加侍中，固让，复散骑常侍。

上曲宴群臣数人，各使效伎艺。褚渊弹琵琶，王僧虔弹琴，沈文季歌《子夜》，张敬儿舞，王敬则拍张。俭曰：“臣无所解，唯知诵书。”因跪上前诵相如《封禅书》。上笑曰：“此盛德之事，吾何以堪之！”后上使陆澄诵《孝经》，自“仲尼居”而起。俭曰：“澄所谓博而寡要，臣请诵之。”乃诵《君子之事上》章。上曰：“善！张子布更觉非奇也。”寻以本官领太子詹事，加兵二百人。

上崩，遗诏以俭为侍中、尚书令、镇军将军。世祖即位，给班剑二十人。永明元年，进号卫军将军。参掌选事。二年，领国子祭酒、丹阳尹，本官如故。给鼓吹一部。三年，领国子祭酒。叔父僧虔亡，俭表解职，不许。又领太子少傅，本州中正，解丹阳尹。旧太子敬二傅同，至是朝议接少傅以宾友之礼。是岁，省总明观，于俭宅开学士馆，悉以四部书充俭家，又诏俭以家为府。四年，以本官领吏部。俭长礼学，谙究朝仪，每博议，证引先儒，罕有其例。八座丞郎，无能异者。令史谘事，宾客满席，俭应接铨序，傍无留滞。十日一还学，监试诸生，巾卷在庭，剑卫令史仪容甚盛。作解散髻，斜插帻簪，朝野慕之，相与放效。俭常谓人曰：“江左风流宰相，唯有谢安。”盖自比也。世祖深委仗之，土流选用，奏无不可。

五年，即本号开府仪同三司，固让。六年，重申前命。先是诏俭三日一还朝，尚书令史出外谘事；上以往来烦数，复诏俭还尚书下省，月听十日出外。俭启求解选，不许。七年，乃上表曰：“臣比年辞选，具简天明，款言彰于侍接，丹诚布于朝野，物议不以为非，圣心未垂矜纳。臣闻知慧不如明时，求之微躬，实允斯义。妄庸之人，沈浮无取，命偶休泰，遂践康衢。秋叶辞条，不假风飙之力；太阳跻景，无俟萤爝之辉。晦往明来，五德递运，圣不独治，八元亮采。臣逢其时，而叨其位，常总端右，亟管铨衡，事涉两朝，岁绵一纪。盛年已老，孙孺巾冠。人物徂迁，逝者将半。三考无闻，九流寂寞。能官之咏，辍响于当时；《大车》之刺，方兴于来日。若夫珥貂衣兖之贵，四辅六教之华，诚知匪服，职务差简，端揆虽重，犹可勉励。至于品藻之任，尤惧其阻。夙宵罄竭，屡试无庸。岁月之久，近世罕比。非唯悔吝在身，故乃惟尘及国。方今多士盈朝，群才竞爽，选众而授，古亦何人。冒陈微翰，必希天照。至敬无文，不敢烦黩。”见许。改领中书监，参掌选事。其年疾，上亲临视。薨，年三十八。

吏部尚书王晏启及俭丧，上答曰：“俭年德富盛，志用方隆；岂意暴疾，不展救护，便为异世。奄忽如此，痛酷弥深！其契阔艰运，义重常怀，言寻悲切，不能自胜。痛矣奈何！往矣奈何！”诏卫军文武及台所兵仗可悉停待葬。又诏曰：“慎终追远，列代通规，褒德纪勋，弥峻恒策。故侍中、中书令、太子少傅、领国子祭酒、卫军将军、开府仪同三司南昌公俭，体道秉哲，风宇渊旷。肇自弱龄，清猷自远；登朝应务，民望斯属。草昧皇基，协隆鼎祚。宏谟盛烈，载铭彝篆。及赞朕躬，徽绩光茂。忠图令范，造次必彰。四门允穆，百揆时序。宗臣之重，情寄兼常。方正位论道，永厘衮职，弼兹景化，以赞隆平；天不慭遗，奄焉薨逝，朕用震恸于厥心。可追赠太尉，侍中、中书监、公如故。给节，加羽葆鼓吹，增班剑为六十人。葬礼依故太宰文简公褚渊故事。冢墓材官营办。谥文宪公。”

俭寡嗜欲，唯以经国为务，车服尘素，家无遗财。手笔典裁，为当时所重。少撰《古今丧服集记》并文集，并行于世。今上受禅，下诏为俭立碑，降爵为侯，千户。