长孙无忌深知江山来之不易，身居相位，自然要尽心尽力辅佐唐太宗。贞观初年，有些大臣看到突厥已经衰落，就建议唐太宗趁机兴兵攻取。唐太宗征询朝臣意见时，长孙无忌极力反对，说：“突厥已经衰落，不会骚扰边塞。如果我们深入他们境内，既违背了和盟，又不一定就能取胜。”唐太宗采纳了他的建议，从而避免了一场不必要的战争。
古人做弩贞观十七年(公元643年)，原太子承乾谋反被废。在重立太子的问题上，唐太宗犹豫不决。长孙无忌主立晋王李治为太子。他说：“晋王仁孝，将来为政能爱民，安定社会，是个守成之主。”太宗于是决定立晋王为太子。
贞观时期，长孙无忌前后执政二十余年，为“贞观之治”局面的形成立下了汗马功劳。长孙无忌有大功于唐室，又有治国治民的才能，官居相位，本来也是自然的事。可长孙无忌却担心别人会说他是靠裙带关系上去的，心里常常为此感到不安，并几次力辞相职。贞观二年(公元628年)正月，刚居相位才半年的长孙无忌，就主动要求辞去相职。唐太宗在他固辞之下，被迫同意。贞观七年(公元633年)，唐太宗要封他做司徒、知门下尚书省事，他又力辞不受。他上奏唐太宗说：“我以外戚的身份，位致三公，恐怕人家会说皇上照顾皇后的家人。”这一次，唐太宗没有允许他辞职，并对别的大臣说：“我任官以才为标准。我是看中了长孙无忌的才干，才委他以相职的。”贞观二十年(公元646年)，唐太宗要授他太子太师之职，又被他谢绝了。
长孙无忌屡辞相职，固然是因为他能谦虚自律，同时也与他妹妹长孙皇后的影响分不开。长孙皇后是中国历史上少有的贤后，为防止外戚干政，她曾多次劝哥哥不要就任宰相。她还常常提醒唐太宗注意吸取历代外戚专权作乱的教训，请求他不要委政于自己娘家的人。
贞观二十三年(公元649年)五月，唐太宗一病不起。临终前，他嘱咐长孙无忌和褚遂良两人辅佐太子。高宗即位后，长孙无忌身为辅政，尽力辅佐这个新皇帝。长孙无忌在政事之余，还主持修撰了《唐律疏议》三十卷，系统疏证诠解《唐律》的各项条文。这部法典不但对完善唐朝法规起了重要作用。而且也是我国现存的一部最完整的古代法典。