为政以安民为本，不以表面文章夸饰，希望主公深加考察。”刘备一向敬重诸葛亮，于是没有治蒋琬的罪，匆忙之中只罢免他的官而已。蒋琬被究查后，夜里梦见一个牛头在门前，流血满地，蒋琬心中十分厌恶这个梦，叫来占梦的赵直问其凶吉。赵直说：“所谓见血之事，是事情已有分明。牛角和鼻子，是‘公’字之象，您的职官一定达到三公，此乃大吉的征兆。”不久，他被任命为什邡县县令。刘备为汉中王，蒋琬入朝为尚书郎。

建兴元年(223)，丞相诸葛亮创置相府，征召蒋琬为东曹掾。被荐举茂才，蒋琬坚持让给刘邕、阴化、庞延、廖淳。诸葛亮在教令中回复说：“想到您离乡背亲，为百姓奔走，大家既不安于内心，又确实使远近之人不理解您的本意，故此您应该显示您因功绩而受荐举，以表明这种选举的清贵与慎重。”升蒋琬为参军。

建兴五年(227)，诸葛亮驻守汉中，蒋琬与长史张裔统领留府事宜。建兴八年(230)，蒋琬替代张裔为长史，升任为抚军将军。诸葛亮多次带兵出外，蒋琬常常以足够的粮饷与兵力供应前线。诸葛亮常说：“公琰的志向在于忠正清雅报效国家，他是辅佐我一道共同完成统一大业之人。”他还秘密上表后主刘禅说：“为臣若不幸去世，后事应托付蒋琬。”诸葛亮去世，朝廷任命蒋琬为尚书令，很快又加升都护、假节，兼任益州刺史，升为大将军，录尚书事，封安阳亭侯。当时元帅诸葛亮刚死，远近的人都忧心忡忡。蒋琬才干出类拔萃，处在百官之首，既无悲戚表情，又无欢悦声色，神态举止，一如既往，由是大家心底渐渐佩服。

延熙元年(238)，诏命蒋琬说：“贼寇反乱未除，曹睿又凶狠骄横，辽东三郡人民难于忍受暴虐，于是相互连结，与魏分离。曹睿又大举兴兵征夫，与其相互攻打。往者秦朝灭亡，陈胜、吴广首先发难，如今有此变故，这是天赐良机。您应严整治军，总率各军屯扎汉中，一待东吴举兵北进，两国构成东西犄角之势，伺机进击。”又命蒋琬成立相府，次年就地加官为大司马。东曹掾杨戏性格素来简略，蒋琬同他谈话，他有时不应不答。有人想在蒋琬面前诬陷他，便对蒋琬说：“您与杨戏讲话而他不答理，其傲慢上级，不是太过分了吗！”蒋琬回答说：“各人心性不一样，就像人的容貌有差异，当面应承背后非议，这是古人告诫人们注意之事。杨戏想要赞成我，但不是他的本心，想要不赞成我，又怕暴露我的不是，所以默然不应，这正是他的诚实之处啊！”又督农杨敏曾经毁谤过蒋琬说：“做事昏昏然，确实不如前人。”有人以此话告诉蒋琬，主管官员请求让他们去推究其事治罪杨敏，蒋琬说：“我确实不如前人，有什么可推究杨敏的呢？”主管官员再次陈说而蒋琬不允推究。主管官员则请蒋琬去责问杨敏说他昏昏糊糊的情状。蒋琬说：“若不如前人，则处事不合理，处事不合理，则昏昏糊糊。还有什么好问的呢？”后来杨敏犯罪坐监，大家都担心他必死无疑，而蒋琬心中不存成见，故杨敏得以免除重罪。蒋琬的好恶爱憎合乎道义，都像这样。