武成帝看了，允许称善，赐给李德林名马一匹。
随后，升李德林任中书侍郎，奉旨修订国史。
北周建德六年(577年)正月，北周武帝宇文邕率军攻陷邺城，平灭了北齐。
周武帝进入邺城的当天，特别诏令小司马唐道和来到李德林家，宣读圣旨晓谕劝慰，说道：“平齐之利，唯在于尔。朕本畏尔逐齐王东走，今闻犹在，大以慰怀，宜即入相见。”
宇文邕随后又派内史宇文昂向李德林询问了齐朝的习俗教化、人物性格，封他为内史上士，随驾入长安。
回到长安，一切的诏诰文书，以及委任山东的人，宇文邕都一概托付给李德林。
宇文邕曾在云阳宫对群臣满意非凡地说：“我常日唯闻李德林名，及见其与齐朝作诏书移檄，我正谓其是天上人。岂言今天得其唆使，复为我作文书，极为大异。”
杨坚禅代之际，其相国总百揆、九锡殊礼诏策笺表玺书，也全都出于李德林之手。
特别值得一说的是，开皇五年(公元585年)，杨坚诏令李德林写一篇文章来记叙他做丞相时的国家大事。
李德林文思潮涌，下笔如有神，将写一篇文章的使命扩写成了一部书，编为五卷，命名为《霸朝杂集》。
杨坚夜观《霸朝杂集》，心潮澎湃，几不成寐。
第二天，他喜形于色地对李德林说：“自古帝王之兴，必有异人辅佐。我昨读《霸朝集》，方知感应之理。昨宵恨夜长，不能早见公面。必令公贵与国一直。”
李德林看到龙颜变色、天庭盛怒，吓得不敢说话。
好久，才叩拜谢罪，弱弱地提出自己的诉求：“臣不敢复望内史令，请予臣一个闲官散职留居京城，待陛下登封乐成，一观盛礼，臣即回归故乡，死且不恨。”
杨坚翻了翻白眼，没有理睬。
李德林只好乖乖拾掇好行李，出京城任怀州刺史去了。
杨坚说得不错，李德林身为内史令，掌据秘要太多，真实不该过多干涉政事，而且，李德林不过一“读书人”，不是搞政治的料。
实际上，李德林最初襄助杨坚建立大丞相方位、提议高颎上前哨督军、上平定南陈大策等体现出彩，但都是他从读史书得来的常识，而他自己书呆子气十足，并不合适搞政治。
李德林在北齐为官时，齐武成帝高湛交给李德林的作业便是修订国史，就很好有利地势用了他读书渊博、文章写得好的长处。
李德林专注编写《齐书》，美好而高兴。
惋惜，入隋后，李德林投身于搞政治，著史作业荒废了。
到了怀州刺史任上，李德林却是想重提史笔，补葺完《齐书》，可是，物是人非，老迈体衰，无能为力，才短短几个月，就溘然病逝，年六十一岁。
所幸的是，李德林之子李百药子承父业，接手编写《齐书》，总算在贞观十年（636）修撰竣工，共50卷，纪8卷，列传42卷，记载上起北魏割裂前十年左右，接续北魏割裂、东魏立国、北齐替代东魏，下迄北齐亡国，前后约八十馀年史实。
为差异于南朝梁萧子显所撰的《齐书》，该书被改称为《北齐书》。
不过，到了南宋，《北齐书》仅剩一卷帝纪、十六卷列传。
为了答谢李德林赞颂之意，他追封李德林的父亲为恒州刺史。
过了两日，杨坚犹感缺乏，又追赠李德林的父亲为定州刺史、安平县公，谥号为孝。让李德林秉承。
“建立乡正”一事发生在开皇九年(公元589年)，但从这一事来看，杨坚是在有意支撑苏威而成心无视和疏远李德林了。
前面说了，李德林在平定南陈上，奉献巨大。
杨坚带李德林走在回京路上，曾用马鞭指着南边说：“待平陈讫，会以七宝装严公，使自山东无及之者。”
但比及攻占了陈，杨坚却没有实现许诺。
史书对杨坚食言的解说是：杨坚原本是想封李德林为柱国、郡公，分封食邑八百户，赏布帛三千段的，但有人提示他，说：“平陈之功，乃是皇帝画策、晋王及诸将戮力之所造成的也。今乃归功于李德林，诸将必当愤惋。”所以杨坚就取消了对李德林的封赏。
