魏徵喜逢知己之主,竭尽股肱之力,辅助太宗理政,已成为太宗的左手右臂。魏徵建言行事,匡正朝政失误,助成贞观之治。太宗曾说:“贞观之后,尽心于我,献纳忠谠,安国利民,犯颜正谏,匡朕之违者,唯魏徵而已。古之名臣,何以加也。”并亲手解下佩刀,赐予魏徵。贞观十六年(642年)七月,魏徵染病,卧床不起。太宗手诏慰劳,并说:“不见数日,朕过多矣。今欲自往,恐益为劳。若有闻见,可封状进来。”魏徵不顾疾病在身,又上言数事,对太宗在魏徵生病期间临朝时“常以至公为言,退而行之,未免私辟”的言行不一的做法提出了批评。魏徵平素为官清正,生活简朴,以至家无正堂。太宗下令停止营造小殿,用其木材为魏徵建造正堂。建成后,又根据魏徵的好尚,赐给他素屏风、素被褥、几、杖等家物。
贞观十七年(643年)正月,魏徵病情恶化,太宗命一中郎将住在他家中,及时通报病情,所赐药膳无数,中使相望于道。太宗与太子两次亲临病榻看望,并而许将衡山公主下嫁给他儿子叔玉。十七日,魏徵病卒。时年六十四。赠司空、相州都督,谥曰文贞,陪葬昭陵。安葬时,其妻裴氏遵照魏徵的夙愿,以布车载着灵柩。太宗悲恸之极,登苑西楼望丧痛哭,还诏令百官送丧至郊外。并亲自撰写碑文,亲笔书写。他思念魏徵不已,对侍臣说:“人以铜为镜,可以正衣冠,以古为镜,可以见兴替,以人为镜,可以知得失。魏徵没,朕亡一镜矣!”太宗论定功臣,魏徵得以图像于凌烟阁。他望着魏徵画像思绪万千,遂吟诗曰:劲条逢霜摧美质,台星失位夭良臣。唯当掩泣云台上,空对余形无复人。
太宗对魏徵的特殊礼遇与尊宠引起了某些人的妒嫉,经魏徵举荐入相的杜正伦、侯君集或以罪被黜免,或以叛逆受诛,因指摘魏徵有朋党;又扬言魏徵将前后谏诤之语抄录给史官褚遂良,太宗信以为真,很不满意,遂终止了衡山公主与魏叔玉的婚事,并下令推倒了亲自书写的纪念碑。直到贞观十九年(645年),太宗亲征高丽,战士死伤数千人,战马损失十分之七八,他深深悔恨这一举动,不禁慨然叹息说:“魏徵若在,不使我有是行也。“于是立命驰驿以少牢之礼祭祀魏徵,又重立纪念碑。
魏徵是唐初卓越的政治家,他刚正不阿,素以有胆有识、犯颜直谏而著称,辅弼唐太宗拨乱反正,以成贞观之治。太宗曾说:“为政者岂待尧、舜之君,龙益之佐,自我驱使魏徵,天下乂安,边境无事,时和岁稔,其忠益如此。”史家曾给予他很高的评价,说他“身正而心劲,上不负时主,下不阿权幸,中不移亲族,外不为朋党,不以逢时改节,不以图位卖忠”。这并非是谀美之辞。魏徵的名字与贞观之治将同垂于青史。