计，又担心朝廷违逆了他的意志，于是秘密地上疏进言。疏奏送到，高祖不予公布，召唤使者入内，对桑维翰传达秘旨：“我近来北面称臣侍奉契丹，心中愤懑不快，现在细读了你的奏章，心中愤懑解开就像睡醒了一样，我的计谋已经决定，你不必担心了。”

七年(942)夏天，高祖驾临邺都，桑维翰从兖州前来朝拜，改任晋昌军节度使。少帝石重贵即位，征召拜为侍中，监理编修国史，不断上书请求与契丹和谈通好，被上将军景延广所否定。第二年，杨光远与契丹结怨，在澶渊发生战争，凡进攻敌军，下达命令，都出自景延广。桑维翰与各位宰相没有参与的机会。等到契丹败退，桑维翰派受少帝宠幸的亲信秘密地推荐自己说“：皇上要想制服北方戎狄安定国家，非桑维翰不可。”少帝于是命景延广出守洛阳，让桑维翰担任中书令，又任枢密使、弘文馆大学士，接着，封为魏国公。事情无论大小，全部委托给他，几月之间，百事渐趋治理。然而权力地位显赫以后，各地贿赂馈赠的东西，都汇集到他的门下，所以，连着一两年之内，聚积的财货无数，因此，那些轻薄浮躁的人得以借机兴起诽谤。不多久，内客省使李彦韬、端明殿学士冯玉都因为任用亲朋故旧，与桑维翰不相协和，离间之言逐渐进入皇帝耳中，桑维翰渐渐被疏远猜忌，将要被罢免斥退，全靠宰相刘日句，李崧上奏“：桑维翰立过大功，并且没有大的过错，不应该轻易贬退。”少帝才作罢。不久，任用冯玉为枢密使，以此削弱桑维翰的权力。

后来因少帝稍有不适，桑维翰曾经暗地里派遣宫廷使者向太后表达心意，请求为皇弟石重睿选择老师来教育辅导他。少帝因此怀疑桑维翰怀有异心。不久以后，冯玉做了宰相，与桑维翰都在中书省，正好碰上舍人卢价任职期满，冯玉就提笔委任卢价为工部侍郎，桑维翰说：“文官出任这种官职要稍稍慢些，恐怕外界有所议论。”因此不予签名。接着桑维翰休假，冯玉终归任命了卢价，自此桑维翰与冯玉更加不相协调。不久少帝把石重睿选择老师的事告诉了冯玉，冯玉于是用言语刺激少帝。少帝不多久就派桑维翰出任开封府尹，桑维翰称脚有病，很少参朝晋见，不与宾客往来。

这一年，秋雨下了一月不停止。一天，桑维翰走出府宅大门，由西街进入内城，到了国子门，乘马忽然惊恐奔跑，驾车的人不能控制，桑维翰掉进水中，过了好长时间才苏醒过来。有人说他的私人官邸也多有鬼怪，亲近他的人都为此忧心忡忡。到契丹国主打到中渡桥，桑维翰因国家危在旦夕，才到执政处提出他的异议，又求谒见少帝，得不到准允。桑维翰回家，对他亲近的人说：“如果以国家的命运而论，天命是否改变，不是我们所能知晓的，如果以人事而论，晋朝将不会再存在了。”

开运三年(946)十二月十日，后晋的军队已经投降契丹，十六日，张彦泽率领前锋骑兵攻陷了都城，契丹国主派使者送信给太后说：“可以先让桑维翰、景延广远道来迎接，这是很好的事。”这天凌晨，都城下的军队发生骚乱，宫殿里大火突发。桑维翰当时正在府宅，左右侍臣劝他逃跑躲避，桑维翰说：“我是国家大臣，逃到什么地方去呢？”便坐在那里等候命令。当时，少帝已经接受了契丹国主安抚慰藉的诏命，正考虑保全自己之计，因而想到桑维翰担任相国时，多次进献计谋策划，请求与契丹通好，担心如果契丹国主到达京都后追究这事，则要显露自己的过错，所以打算杀掉桑维翰灭掉口供。因此叫人去干这件事。张彦泽接受少帝的密旨之后，又贪图桑维翰的家财，于是声称少帝下令召见桑维翰。桑维翰系上腰带乘马前去，走到天街，与李崧相遇，两人交谈之际，有个军官在马前指请桑维翰去侍卫司，桑维翰知道不可违抗，回头对李崧说：“侍中主持国政，今天国家灭亡了，反让我为此去死，这是为什么？”李崧很感愧疚。这一天，张彦泽派兵看守他，十八日夜晚，被张彦泽杀害，当时年仅四十九岁。张彦泽用衣带系在桑维翰脖子上，报告给契丹国主说桑维翰上吊自杀了。契丹国主答复说：“我本无心害桑维翰，桑维翰不该自杀。”契丹国主到了京城，派人验证他的尸体，下令把他的灵柩安放在私宅里，优厚地抚养他的家属，所有田园宅府，一起赏赐给他的家人。到后汉高祖登基，下令追赠为尚书令。