太宗曾在一次宴会上对李绩说：“我将把太子托付给朝廷重臣，思来想去，觉得没有比你更合适的人选了。你过去跟从李密时，不肯辜负李密托付，现在岂能辜负我的重托啊！”李绩泣不成声，咬破手指发誓，要竭忠尽职，辅佐太子。一会儿，李绩因喝醉而睡着了，太宗就脱下自己的御衣，给李绩盖在身上。
公元６４９年（贞观二十三年），太宗卧病，对高宗说：“你对李绩没有恩惠，他就是想报答你也没有理由。现在，我要责罚他，让他离开京城。我死后，你要将他调回京城，授给他仆射的官职，他蒙受了你的恩惠，必定会使他为你尽忠竭力。”于是太宗真的找了个借口将李绩责出京城，任垒州都督。高宗即位后，当月即召李绩拜洛州刺史，不久又加开府仪同三司，令同中书、门下，参与掌管国家的机密大事。当年又拜李绩为尚书左仆射。完全如太宗临终安排的一样。
李绩仍如太宗在世时一样，兢兢业业，为国家屡建奇勋。后来，李绩任辽东道行军总管，征伐高丽，渡过鸭绿江，一直打到平壤，俘虏了高丽王高藏，将高藏献于昭陵，洗雪了太宗征高丽失利的耻辱。