会同讨论。魏收和李德林书信来往，商议此事，词多不载。后任中书侍郎，仍诏令修撰国史。其时齐帝留意文章雅事，召李德林入文林馆，与黄门侍郎颜之推同判文林馆事。多次升迁至仪同三司。

周武帝平定齐国，派遣使者到李德林宅第宣读圣旨说：“平定齐国的用意，只在于你，应入京相见。”就命令李德林跟随车驾到长安，授任内史上士，诏书诰命的格式和擢用山东人物一类的事情，都委托给李德林。周武帝对群臣说“：我往日听说李德林为齐朝草撰书檄，我只说他是天上之人。岂知今天为我所用，又替我作文书，大是奇异。”神武公纥豆陵毅回答说：“臣听说，圣明的君主得到麒麟凤凰这样的祥瑞之物，是圣德所感而致，不是人力能令他们来的。祥瑞之物虽来，却是不能使用。像李德林这样来受驱使，也是陛下圣德感化的结果，有大才使用，远胜于麒麟凤凰这些祥瑞。”武帝大笑道：“确实像你说的。”宣政年末，授李德林御正下大夫之职。后又赠爵成安县男。

宣帝病危，隋文帝初受天子遗诏，令邗国公杨惠对李德林说“：朝廷赐命总揽文武之事，如今想和您共同理政，请您一定不要推辞。”德林答道“：愿以死奉公。”隋文帝非常高兴，即召李德林叙话。刘窻、郑译当初假传圣旨，召隋文帝受命辅助少主，总管内外兵马事务。郑译想授隋文帝宰相之职，自摄大司马之职，刘窻任小冢宰。李德林私下告诉隋文帝说：“应任大丞相，假黄钺，都督内外诸军事。”于是隋文帝就任命郑译为相府长史，刘窻为相府司马，二人因此愤愤不平。任命李德林为相府属，加授仪同大将军。

不久，三方乱起，指挥调度兵马之事，隋文帝都是和李德林商议。军书羽檄，早晚不断，一天之内，动辄超过百数。有时各种书檄急待发出，李德林就口授数人，头绪繁多，却用不着修改。郧公韦孝宽任东道元帅，大军到了永桥，沁水暴涨，孝宽的军队不能渡河。长史李询秘密告诉隋文帝说“：诸位大将都接受了尉迟迥的贿赂。”隋文帝听说后，甚是忧虑，商议派人取代韦孝宽。李德林说“：临敌易将，自古以来都是件难事，乐毅就是因为临阵易将才离开了燕国，马服君也因临阵易将使赵国被打败。您只要派一个明于智略又平素为诸将所信服的心腹之人，迅速赶到韦帅大军的驻地，观察一下真假虚实。诸将即使有其他想法，也必定不敢有什么举动。”隋文帝道“：公不说这番话，几乎坏了大事！”即令高赹迅速赶到大军驻地，节制调度诸将，终于大获成功。李德林所献的谋略，都是这一类的。

晋升为丞相府从事内郎。隋文帝禅代之际，其总百揆、九锡殊礼诏策笺表玺书等，皆出自李德林之手。隋文帝即位那天，任命李德林为内史令。当初，文帝将要禅代时，虞庆则等人劝隋文帝杀尽宇文氏，李德林坚决争辩，认为不可那样做。隋文帝恼怒李德林，因此不给他加官晋爵，只是按朝班旧例，授职上仪同，晋爵位为子。

开皇元年(581)，敕令李德林与太尉于翼、高赹等人同修律令。律令修讫，奏闻文帝，特赐骏马和九环金带。五年(585)，敕令李德林撰写隋文为丞相时的文章，刻成五卷，取名为《霸朝杂集》。隋文帝阅读过之后，次日天明对李德林说：“自古以来，帝王之兴必定有异人辅佐。我昨天读《霸朝集》，才知道天人感应的道理。昨天夜晚只恨夜太长，不能早一点与公相见。”于是追赠李德林父为定州刺史、安平县公，谥号为孝。隋文帝后临幸邺城，李德林因病没有跟随而去。敕令随后跟上，后面御笔注道：“征伐陈国之事，意欲相商，应随后而至。”这时，高赹回京师，文帝告诉高赹说：“李德林若病重不能远行，应该亲自到宅第，听取他的方略。”文帝把李德林的献策交给了晋王杨广。