为谏大夫，又转为河南太守。

几年后，宣帝即位，征召魏相进入朝廷做大司农，后来又升迁为御史大夫。四年后，大将军霍光死了，皇帝思念他的功劳与德行，让他的儿子霍禹做右将军，让霍光的侄子乐平侯霍山又掌领尚书省事务。魏相通过平恩侯许伯向皇帝上书，说：“《春秋》讥讽世世为卿相的人，憎恶宋三代人都做大夫，到鲁季孙的专权当道，都曾使国家处于危难祸乱。从武帝后元年间以来，王室子弟能得到俸禄，国家的政事却要由冢宰来决定。现在霍光死了，他的儿子又做了大将军，他哥哥的儿子做尚书掌握政要，他家的兄弟女婿们掌有兵权，很有权势。霍光的夫人显和他们家的女眷都在长信宫有名籍，可以自由出入，有的夜裹从禁门出入，骄横奢侈，放纵不羁，恐怕将来会慢慢的无法驾驭控制了。应该想法削弱他们的权势，打消他们的阴谋，来强固大汉万世的基业，也使功臣霍光的声名得以保全。”另外按过去的规定凡上书给皇帝的人都要把奏书写成二份，其中一份为副本，掌领尚书省事务的官员先开阅副本，如果奏书的内容不当，就搁置起来不上报皇帝。魏相又通过许伯，抽去了副本，以避免被霍氏的人阻挡下来。宣帝看丁魏相的奏书认为很好，诏令封魏相为给事中，完全采纳了魏相的奏议。霍氏谋杀许太后的事才被皇帝知道了。于是就罢免了霍禹、霍云、霍山三人的侯的封号，命令他们回到宅第，他们的亲属被迁出补为官吏。在这个时候韦贤因为年老有病免去丞相职务，魏相于是代替韦贤做了丞相，并被封为高平侯，赐食邑八百户。到后来霍氏的人怨恨魏相，又畏惧他，打算假称太后有诏令，先把丞相魏相召来杀了，然后废黜天子。事情被发觉，霍氏的人被杀了。宣帝才开始亲自处理朝廷政事，励精图治，选择贤臣，考核名实，魏相作为丞相，总管各官署的事务，很得皇上的欢心。

宣帝元康年问，匈奴派兵攻击汉朝在车师屯田的军队，没有攻下来。宣帝和后将军趟充国等人商议，打算趁匈奴衰弱的时候，派兵攻打他们右边地域，使匈奴不敢再骚扰西域。魏相向皇帝上谏书说：　“臣听说，拯救危乱，诛除凶暴，称之为义兵，仁义之师所向无敌；敌人来攻击你，不得已起来抗击，称之为应兵，抗击侵略的军队定能战胜；在小事上争胜斗恨，不能克制一时愤怒的，称之为忿兵，争气斗忿的军队会失败；认为别人的土地货宝有利可图的，称之为贪兵，贪婪的军队一定会被击败；凭藉国家面积大，以人口众多相夸耀，因而想在敌人那裹表现自己的威风的，称之为骄兵，骄傲的军队会被消灭：这五个方面，不仅是由人事决定的，也是天道决定的。不久前匈奴曾经向我们表示了善意，抓到汉族的人总是好好地送回来，没有侵犯我们的边境，虽然这次他们争夺我们屯田的车师城，也不必太放在心上。现在我听说各位将军想起兵攻入匈奴境内，愚臣不知道这样的军队该叫什么名称。现在边境上的州郡十分贫穷，父亲与儿子共同穿用一件羊皮袄，吃蓬草的果实，经常担心会活不下去，再也经不起战事的扰攘。‘战事过后，一定会有灾年’说的就是人民会有愁苦怨气，会破坏阴阳之间的平和。即使出兵得胜，也还有后患，恐怕灾难变故会因此而产生，现在州郡的太守、封国的国相大多不得其人，风俗浅薄，风雨不调。考查今年的统计，子杀父、弟杀兄、妻杀夫的，共有二百二十二人，愚臣认为这决不是小变故。现在您身边的大臣不以此为忧，却想派兵攻打边远的少数民族来报纤介小仇，逭大概就是孔子说的‘我恐怕季孙氏的忧患不在于颛臾而在宫墙内部’啊。希望陛下您和平昌侯、乐昌侯、平恩侯以及有远见的大臣仔细商议才行啊。”宣帝听从了魏相的建议，没有发兵。