到碛中，已到了山穷水尽的地步，部下纷纷离散，伏允可汗为部下所杀，其长子大宁王慕容顺杀死天柱王，率众降唐。李靖率军经过了两个月的浴血奋战，攻灭了吐谷浑，并向京师告捷，唐朝为了控制吐谷浑旧境，封慕容顺为西平郡王、趉故吕乌甘豆可汗，并留下李大亮协助防守。

李靖在进击吐谷浑时，盐泽道总管高甑生未按期到达，贻误了军机，受到李靖的责备，高甑生心怀不满，战事结束后，即串通广州都督府长史唐奉义诬告李靖谋反。李世民下令调查此事，弄清真相，判定高甑生以诬罔罪减死，流放边疆。从此，李靖“乃阖门自守，杜绝宾客，虽亲戚不得妄进”。改封李靖为卫国公，并依照当时推行的世袭刺史制，授他为濮州刺史，允许世袭，后因他故而未执行。

李靖的妻子去世，李世民诏令其坟茔规格依照汉代卫青、霍去病的旧例，把坟墓修筑成突厥境内的铁山、吐谷浑境内的积石山的形状，以此表彰李靖特殊的战绩。李世民命人画二十四功臣图于凌烟阁，李靖名列其中，位于第八名。太子李承乾谋反案发生，李靖的长子李德謇因与太子友善而坐罪，判决流放于岭南，李世民体念李靖的功劳，特诏改配于吴郡。

李世民亲自到李靖的府第问候病情，还赐绢五百匹，晋位开府仪同三司。李世民准备亲征高丽，把李靖召入阁内，赐坐后问道：“您在南边平定吴会，北边扫清沙漠突厥，西边安定吐谷浑慕容，只有东边的高丽没有征服，您意下如何？”这位年过七旬的老将虽染病在身，仍表示愿意从行，对李世民说：“我过去凭借天子的威力，做了点微小的贡献，现在已是残年朽骨，应该随从这次出征。陛下如果不嫌弃，老臣的病就要好了。”李世民哀怜他瘦弱衰老，没有同意。

李靖病情恶化，当时也已病重的李世民，亲临病榻慰问，见李靖病危，涕泪俱下，十分难过地对李靖说：“您是朕平生故人，对国家有功，如今病到这种地步，朕为您感到担忧。”李靖溘然长逝，享年七十九岁，李世民下诏，册赠他为司徒、并州都督，赐班剑、羽葆、鼓吹，陪葬昭陵，谥号为“景武”。