，假郃节，复以淮为司马。文帝即王位，赐爵关内侯，转为镇西长史。又行征羌护军，护左将军张郃、冠军将军杨秋讨山贼郑甘、卢水叛胡，皆破平之。关中始定，民得安业。

黄初元年，奉使贺文帝践阼，而道路得疾，故计远近为稽留。及群臣欢会，帝正色责之曰：“昔禹会诸侯于涂山，防风后至，便行大戮。今溥天同庆而卿最留迟，何也？”淮对曰：“臣闻五帝先教导民以德，夏后政衰，始用刑辟。今臣遭唐虞之世，是以自知免于防风之诛也。”帝悦之，擢领雍州刺史，封射阳亭侯，五年为真。安定羌大帅辟氾反，讨破降之。每羌、胡来降，淮辄先使人推问其亲理，男女多少，年岁长幼；及见，一二知其款曲，讯问周至，咸称神明。

太和二年，蜀相诸葛亮出祁山，遣将军马谡至街亭，高详屯列柳城。张郃击谡，淮攻详营，皆破之。又破陇西名羌唐氾于枹罕，加建威将军。五年，蜀出卤城。是时，陇右无谷，议欲关中大运，淮以威恩抚循羌、胡，家使出谷，平其输调，军食用足，转扬武将军。青龙二年，诸葛亮出斜谷，并田于兰坑。是时司马宣王屯渭南；淮策亮必争北原，宜先据之，议者多谓不然。淮曰：“若亮跨渭登原，连兵北山，隔绝陇道，摇荡民、夷，此非国之利也。”宣王善之，淮遂屯北原。堑垒未成，蜀兵大至，淮逆击之。后数日，亮盛兵西行，诸将皆谓欲攻西围，淮独以为此见形于西，欲使官兵重应之，必攻阳遂耳。其夜果攻阳遂，有备不得上。

正始元年，蜀将羌维出陇西。淮遂进军，追至强中，维退，遂讨羌迷当等，按抚柔氐三千馀落，拔徙以实关中。迁左将军。凉州休屠胡梁元碧等，率种落二千馀家附雍州。淮奏请使居安定之高平，为民保障，其后因置（西川）〔西州〕都尉。转拜前将军，领州如故。

五年，夏侯玄伐蜀，淮督诸军为前锋。淮度势不利，辄拔军出，故不大败。还假淮节。八年，陇西、南安、金城、西平诸羌饿何、烧戈、伐同、蛾遮塞等相结叛乱，攻围城邑，南招蜀兵，凉州名胡治无戴复叛应之。讨蜀护军夏侯霸督诸军屯为翅。淮军始到狄道，议者佥谓宜先讨定枹罕，内平恶羌，外折贼谋。淮策维必来攻霸，遂入沨中，转南迎霸。维果攻为翅，会淮军適至，维遁退。进讨叛羌，斩饿何、烧戈，降服者万馀落。九年，遮塞等屯河关、白土故城，据河拒军。淮见形上流，密于下渡兵据白土城，击，大破之。治无戴围武威，家属留在西海。淮进军趋西海，欲掩取其累重，会无戴折还，与战于龙夷之北，破走之。令居恶虏在石头山之西，当大道止，断绝王使。淮还过讨，大破之。姜维出石营，从强川，乃西迎治无戴，留阴平太守廖化于成重山筑城，敛破羌保质。淮欲分兵取之。诸将以维众西接强胡，化以据险，分军两持，兵势转弱，进不制维，退不拔化，非计也，不如合而俱西，及胡、蜀未接，绝其内外，此伐交之兵也。淮曰：“今往取化，出贼不意，维必狼顾。比维自致，足以定化，且使维疲于奔命。兵不远西，而胡交自离，此一举而两全之策也。”乃别遣夏侯霸等追维于沓中，淮自率诸军就攻化等。维果驰还救化，皆如淮计。进封都乡侯。