魏征字玄成，是魏州曲城县人。幼丧双亲，落魄失意，扔下产业而不经营，胸怀大志，学贯古今。
隋末大乱，假托出家做道士。武阳郡丞元宝藏起兵响应李密，让魏征典掌文书。李密接到元宝藏的书信，总说写得好，后来闻知是魏征所做，立即招他前来。魏征向李密献上十条计策，李密不能采用。王世充进攻洛口，魏征拜见长史郑廷页说：“魏公虽多次战胜，但精兵猛将死伤甚多；而且仓库里没有财宝，打了胜仗得不到奖赏。光这两条就不应出战。如果挖深壕沟，加高堡垒，拖延决战的时间，贼寇粮尽自会离去，那时我军再出击，这才是取胜的办法。”郑廷页说：“这是老生常谈！”魏征便不辞而别。
后来随同李密来到京师，很长时间也没出名。魏征便请求安抚山东地区，朝廷升任他为秘书丞，他便驾乘驿车急驰至黎阳。当时李责力还在为李密防守，魏征写信给他说：“当初魏公因叛乱起兵，振臂大呼，聚众数十万人，声威震动半个天下，但一失败就不能振作，最终归附唐朝，就是知道天下已有所归的缘故。
如今您处在兵家必争之地，不早点图谋自全的办法，大势一去就不可挽回！”李责力收到信，就决定归附唐朝，并大力调拨粮草供给淮安王的军队。
时逢窦建德攻陷黎阳，抓获魏征，授予伪职为起居舍人。建德失败后，与裴矩西行入关，隐太子引荐他任太子洗马。
魏征见秦王功高，暗地劝说隐太子早定对策。太子失败后，秦王责备魏征说：“你为什么让我们兄弟互相争斗？”魏征回答说“：太子早些听我的话，就不会死于今天的祸事了。”秦王器重他敢于直言，没有怨恨之意。
秦王即帝位后，拜魏征为谏议大夫，封为巨鹿县男。这时，河北州县曾侍奉过隐太子与巢王的人自觉不安，往往藏匿谋乱。魏征告知太宗说“：不示以至公之意，祸患就不能解除。”太宗说：“你去安抚晓谕河北人士吧。”路上遇见太子千牛李志安、齐王护军李思行被押解进京师，魏征和副使商议说：“正好有诏书，东宫和齐王府旧属一律免罪，现又捕送志安等人，谁能没有疑心呢？我们虽去传达圣旨，人们一定不信。”就放了志安等人而后奏闻朝廷。出使回来，太宗很高兴，和他日益亲近，有时引至卧室，询问天下之事。魏征也认为这种赏识是不世之遇，便说尽心中想法而毫无隐讳，共上奏二百多项提议，全都切实可行合乎太宗之意。由此任职为尚书右丞，兼任谏议大夫。
左右近臣有人诋毁魏征偏袒亲戚朋友，太宗派遣温彦博讯问此事，与事实不符。温彦博说：“魏征作为臣子，不能著明形迹，远避嫌疑，因而遭到无端诽谤，这是应当责备的。”太宗就叫温彦博去责备魏征。魏征进见太宗，说：“臣听说君臣应当同心，这就叫作如同一体，怎能抛弃至公，只求形迹？如果上下全都如此，国家兴亡就难以预料了。”太宗吃惊地说“：我明白你的意思了！”魏征叩头说：“愿陛下让臣做良臣，不要让臣做忠臣。”
太宗说“：忠臣、良臣有差别吗？”魏征说：“稷、契、咎陶是良臣，龙逢、比干是忠臣。
良臣，自身得美名，君主受显号，子孙世代相承，福庆传之无穷；忠臣，自身受祸被杀，君主陷于昏暴，国破家亡，仅取空名。这就是两者的区别。”太宗说“：好。”
接着问“：做君主的人怎样做才能明，犯何过失才会暗？”魏征说：“君主之所以明，在于多方听取意见；之所以暗，在于偏听偏信。尧、舜大开四门，眼明能视四方，耳聪能听四方，虽有共工、鱼玄，不能蒙蔽他们，好听的言词荒谬的行为，也不能将他们迷惑。秦二世身居深宫，偏信赵高，天下散乱而不得闻；梁武帝偏信朱异，侯景即将攻城而不得知；隋炀帝偏信虞世基，盗贼四起而不知晓。所以说，君主如能多方听取意见，奸臣就蒙蔽不了君主，下情就能上达朝廷。”
郑仁基女儿既漂亮又有才华，皇后建议娶她进宫为充华，典册都已具办。
有人说她已定下婚约。魏征进谏道“：陛下居于楼台，就应让百姓有居室；吃美食，就应让百姓吃饱饭；看到身边的侍妾，就应让百姓有室家。如今郑女已许配人家，陛下娶她进宫，难道是为民父母的意思吗！”太宗沉痛地责备自己，立即停止册封之事。
贞观三年(629)，魏征以秘书监身份参预朝政。高昌王麴文泰将入京朝见，西域各国都想趁此派遣使者进献贡品。
太宗下诏文泰使臣厌怛纥干前去迎接。
魏征说“：从前文泰入朝，所过地方供应物品尚且不能备齐，如今又加上各国使臣，那么沿边州县因供应不足而获罪者就会增多。他们以商贾身份来，边民可因此而得利；如做宾客来，中国就会因耗资财而贫困冷落。东汉建武年间，西域各国请求设置都护、派遣王子入侍，光武帝不答应，就是不愿为蛮夷而耗费中国。”太宗说“：对。”立即追回已经发出的诏令。
那时太宗即位已四年，一年判死刑仅十九人，几乎弃置刑法而不用，米价每斗才三钱。从前，太宗曾感叹道：“大乱之后，国家很难治理啊！”魏征说：“乱后容易治理，就像饥者容易喂食一样。”太宗说“：古人不是说过，善人治国一百年，然后才能制服残暴，废除死刑吗？”魏征回答说“：这不是圣哲说的。圣哲之人治天下，功效就像回声一样，周年即可，不算太难。”封德彝说“：不是这样。夏、商、周三代之后，轻薄诡诈之风日益滋长。
秦代专用刑法，汉代杂用霸道，都是想治好而不能，不是能治好而不愿。魏征是书生，喜爱空谈，只会扰乱国家，不可听从。”魏征说：“五帝、三王并没交换百姓而后教化，实行帝道便为帝，实行王道便为王，关键就在所推行的是什么。黄帝驱逐蚩尤，经七十次战斗才制服其害，达到无为而治。九黎危害德行，颛顼进行征讨，获胜后就治理得很好。桀作乱，汤流放了他；纣无道，武王讨伐他。汤与武王都亲身达到太平。如果人们日渐轻薄诡诈，不再返于淳朴，如今当会成为鬼魅，又怎能教训他们呢！”封德彝不能答复，但内心认为魏征不对。太宗却完全接受而不怀疑。到这时，天下已经大治。
蛮夷君长服用衣冠，带刀入京宿卫。东到大海，南过五岭，夜不闭户，行不携粮，路上就能得到供应。太宗对群臣说“：这是因为魏征劝我实行仁义的结果啊。可惜封德彝见不到此情此景了！”
不久魏征任职检校侍中，晋爵为郡公。太宗临幸九成宫，宫女安置在围川县官舍中。尚书右仆射李靖、侍中王王圭接着到来，县官移出宫女腾出官舍给李靖、王王圭。太宗闻知，发怒说：“这些人敢作威福，为何轻视我的宫女？”下诏审讯他们。魏征说：“李靖、王王圭都是陛下的心腹大臣，宫女不过是后宫的扫除奴仆。
大臣外出，地方官要向他们询问朝廷法度；返回时，陛下要问他们民间疾苦。官舍本来就是李靖他们召见官员的地方，地方官不能不拜见大臣。宫女则不然，除供应食用之外，无须参见侍候。如为此而审讯官员，将使天下人吃惊。”太宗醒悟过来，按下此事不问。
后来，太宗在丹霄楼宴享群臣，饮酒时对长孙无忌说：“魏征、王王圭侍奉隐太子、巢剌王时，的确可恨，我能抛弃旧怨，任用才士，无愧于古人。但魏征每次进谏，如我不从，我发话时总不马上回答，这是为什么？”魏征说“：臣认为事情不对头，就进谏；如不听从而马上回答，便怕就会这样照办。”太宗说：“只管当即答应，再找机会陈说，难道不行？”魏征说：“从前舜告诫群臣：‘你们不要当面顺从，过后又有话说。’如果当面服从答应，再另找机会陈说，这就是‘过后又有话说’，这不是稷、契侍奉尧、舜的做法。”太宗大笑道“：人说魏征举止怠慢，我却觉得他很恭敬顺从！”魏征再次叩头说“：陛下引导臣进言，所以敢如此；不然，臣怎敢屡次触犯陛下呢！”
贞观七年(633)，任侍中。当时尚书省有些久拖不决的案件，下诏让魏征审理。魏征平时不熟悉法律，只凭原则照实处理，人人都心悦诚服。进封左光禄大夫、郑国公。因多病提出辞职。太宗说“：您不见金属在矿山有何珍贵，把它精心锻造成器物，人们才看作宝贝。我正把自己比作金属，把您比作良匠而加以磨砺。您虽有病，还未衰老，怎能这样辞官呢？”魏征恳切请求，多次推辞，退意更坚。太宗便改任他为特进，知门下省事，下诏朝廷规章、国家制度，由他参议得失。与职事官一样赐予俸禄、属员及卫士。
文德皇后安葬后，太宗在禁苑中建造高层楼台，以眺望昭陵，有次带领魏征同登，魏征仔细看后说：“臣眼昏花，看不见什么。”太宗指给他看，魏征说：“这不是昭陵吗？”太宗说“：是。”魏征说“：臣以为陛下在望献陵，若是昭陵，我也看得见。”太宗流泪，为此而毁高楼，不久因修定五礼，应封一子为县男，魏征请封兄之孤子魏叔慈。太宗伤感地说“：这可以勉励世俗之人。”就答应了他。
后来太宗出巡洛阳，进驻昭仁宫，对地方官多所谴责。魏征说“：隋朝因为责备郡县不进食物，或是供物不够精美，为此事而无节制，以致灭亡。所以上天命陛下取而代之，正应谨慎戒惧，约束自己，怎能让人因供应不奢侈而悔恨呢！
如认为充足，如今就很充足了；如认为不足，比这多一万倍也会不知满足！”太宗吃惊地说：“没有你，我听不到这样的话。”魏征退下后又上疏说：“《尚书》称‘扬明道德谨慎刑法’，‘要惧用刑法’。《礼记》说‘：居于上位容易侍奉，处于下位易被了解，那么刑法就不会繁多了。’‘为上者多疑，百姓就会感到迷惑；为下者难于了解，君长就会疲惫。’为上者容易侍奉，为下者易被了解，那么君长就不会疲惫，百姓就不会迷惑，因此君主有一种美德，臣子就不会产生二心。刑罚赏赐的目的，在于劝善惩恶。
帝王赐用，天下划一，是不应依据亲疏贵贱而轻重有别的。如今的刑法赏赐则不然，或是出于一时的喜怒，或是出于好恶的不同。高兴时该用刑而不忍心使用，发怒时丢开法律去寻找罪过；对自己喜欢的人极力赞美，对自己厌恶的人百般挑剔。刑罚过滥，小人之道就会增长；赏赐不当，君子之道就会消亡。小人的恶行不予以惩罚，君子的善行不予以鼓励，而希望天下大治，刑罚弃置不用，这是从没听过的事。而且闲暇时清谈，全都尊信、崇尚孔子、老子；到作威发怒之时，就专门效法申不害、韩非。所以道德的旨意还未宏扬，刻薄的风气就先煽起。从前伯州犁与人串通作弊，楚国的法律便遭破坏；张汤用心轻重不一，汉朝的刑罚便出差错。何况身为君主而自己就有偏颇呢！近来处罚人员，有的是因为供应不周，有的是因为不能顺其意愿，都不是为了达到天下大治而急需处理的事情。
尊贵不与骄盈相约而骄盈自来，富足不与奢侈相期而奢侈自至，这并不是空话。
“而且我朝取代隋朝的缘故，正在隋朝本身。用隋朝的库藏与今日的储存相比，用隋朝的军队与今日的兵马相比，以隋朝的人口与今日的百姓相比，计其长短大小，该有多大差别啊！然而隋朝因富强而灭亡，就是因为国家动荡；我朝因贫乏而平安，就是因为国家宁静。宁静就会平安，动荡就会乱亡，这人人都知道，并不是隐晦难见、微妙难察的道理。
不走平坦的道路，而沿覆车之辙而行，这是为什么？是因为居安而不思危，安定时没想到动乱，生存时没考虑到灭亡。
隋朝未乱之时，自以为不会发生动乱；未亡之时，自以为不会灭亡。所以兵马屡动，徭役不息，直到被杀受辱时，还不明白灭亡的缘故。岂不可悲！照看长相的美丑，得用静止的水，观察国家政局的安危，必用已亡之国作为借鉴。《诗经》说：‘殷朝的借鉴不远，就在夏朝时候。’臣希望当今的举动，能用隋朝作为借鉴，那么存亡治乱的道理就可得知。想到能导致危险的原因就可获得安宁，想到能造成动乱的原因就可使天下太平，想到能使其灭亡的原因就能求得生存的权利。生死存亡的关键，就在于节制嗜好和欲望，减少出游和行猎的次数，平息奢靡豪华之风，停建不急之役，谨慎而不偏听，亲近忠厚之人，疏远阿谀奉承之徒而已。
保持帝业容易，取得帝业的确困难。如今既已取得难得的帝业，难道就不能保持易保的帝业吗？不能牢固地保持它，就是因为骄奢淫逸之心在动摇它。”
太宗在积翠池宴请群臣，和群臣痛饮美酒，赋诗言志。魏征赋《西汉》之诗，其末章说：“最终依靠叔孙通制礼，然后才知道皇帝的尊严。”太宗说：“魏征说话，没有不用礼来约束我的。”有一天，太宗从容问魏征“：近来国家政治如何？”魏征见太平日久，太宗思想有所疏忽，因而回答说“：陛下在贞观初年，诱导臣下进谏。三年以后，遇到进谏者能乐意听从。
近一二年来勉强接受进谏，而心中照旧不满。”太宗惊奇地说：“你凭什么这样说？”魏征回答说：“陛下刚即位时，判决元律师死罪，孙伏伽进谏，认为依照法律不应处死，陛下将兰陵公主园囿赏赐给他，价值一百万钱。有人说：‘赏赐太厚。’陛下回答说：‘我即位后，还没有进谏的人，所以要厚赏。’这就是诱导臣下进谏。后来柳雄谎报在隋朝任官的资历，有关部门得知实情，弹劾他弄虚作假，判决他死罪。戴胄上奏说，柳雄之罪只应流放，接连上奏四五次，陛下才赦免其死罪。并对戴胄说‘：如是这样严格守法，就不会滥用刑法了。”这就是高兴地听从劝谏。近来皇甫德参上书说‘：修建洛阳宫，是让百姓受苦；征收地租，是横征暴敛；世俗喜好梳高髻，是受宫中影响。’陛下发怒说‘：这人要国家不役使一人，不收任何租税，宫女去掉头发，才能合他的心意。’臣上奏说：‘人臣上书言事，不激切就不能打动君主之心，一旦激切就接近毁谤。’当时陛下虽说听从臣言，赏赐丝帛，免治其罪，但心内终究愤恨不平。这就是难于接受进谏了。”太宗醒悟，说：“不是你，说不出这样的话。人苦于不能了解自己。”
在此之前，太宗建造飞山宫，魏征上疏说：“隋朝据有天下三十多年，教化行于万里，威势震撼异族，然而顷刻丧失殆尽。那位炀帝，难道厌恶安定喜好灭亡吗？只因倚仗国力富强，不顾后患。驱使天下之人，役使万物，以奉养自己，搜求财帛子女，装修楼台馆所，徭役无时止息，征战接连不休，对外显示威严，对内行其险诈猜忌，邪恶者进用，忠正者斥退，上下互相欺瞒，百姓无法活命，以致自身死于匹夫之手，为天下之人所笑。
圣人乘此时机，拯救天下危难。如今隋帝的楼台馆所，尽被陛下所居；奇珍异物，尽为陛下所有；贵妇美女，尽在陛下身边；四海九州之人，尽成陛下臣妾。如能借鉴隋朝之所以灭亡的原因，思虑我朝获取天下的缘故，焚其宝衣，毁其广殿，安居于低矮的宫室，那就具有上等德行。如已成之业不致败落，承袭其原有的楼台馆所，取消一切不急之务，那就具有次一等的德行。如不思虑创立帝业的艰难，认为天命可以依仗，凭借基址扩建宫殿，快意于奢侈淫逸，使人们不见德政而劳役不休，那就是下等的德行了。用暴政取代暴政，将会照样出现动乱。做事不合法规，后人就没有好评。民怨神怒，灾害就会发生；灾害发生，动乱就会暴发。动乱暴发，自己的生命和名声能保持善终就很少见了。”
这一年，天降大雨，谷水、洛水泛滥成灾，冲毁宫观十九所，漂没居民六百家。魏征上书陈事说：“臣听说治国以德与礼为基础，以诚与信为保证。诚、信确立，居下者就不会产生二心；德、礼表现出来，远方之人就会前来归附。所以德、礼、诚、信四者，是治国之大纲，不可废弃片刻。古书说：‘君主按礼节使用臣下，臣下应尽心竭力侍奉君主。’‘自古以来人总是要死的，人民如不信任统治者，国家就立不住脚。’还说‘：说同样的话而被信任，是因说话之前就受信任。同样的命令被执行，是在命令之外是否真诚待人所致。’那么，说话不被听从，是因不受信任；命令不被执行，是因缺乏诚意。不受信任的话，缺乏诚意的命令，君子是不说不为的。
“自从王道美好光明，至今已延续十多年了，仓库粮食越积越多，土地更为广阔，然而德行不能天天增广，仁义不能日渐加深，是何缘故呢？是因对待臣下，没有尽其诚信，虽有善始的勤劳，而无善终的美德。因此阿谀奉承之徒得以施展伎俩，说同心之人是结党营私，揭人隐私是大公无私，刚强正直是专权自用，忠直敢谏是诽谤诬蔑。称为结党营私，虽是忠信也遭怀疑；称为大公无私，虽是做假也无罪过；刚强正直的人害怕专权的指责而不敢尽力办事，忠诚敢谏的人顾虑诽谤非议而不敢尽言。惑乱视听，阻塞大道，妨碍教化，损伤德行，没有比这更甚的了。
“如今将致天下于大治的任务托付给君子，而其得失有时却询问小人，这样的话，毁誉就为小人操纵，而督察责罚则常加在君子头上。中等才智的人岂无小惠，但思虑不能远大，即使他们竭诚尽力，仍然不免倾覆败亡，何况心怀奸邪察颜观色行事的人呢！所以孔子说‘：君子中不仁爱的人是有的，但没有小人而有仁德的。’所以君子不能没有小恶，但恶不积多不妨碍其正直；小人不时也有小善，但善不积多不能使其忠诚。如今称某人为善人，又担心他不可信任，这与竖起直木而怀疑其影不直有何区别呢？所以上不被下级信任就不能指挥下级，下不受上级信任就无法事奉上级，信任的意义很大啊！
“从前齐桓公问管仲说：‘我想让酒坏在杯中，肉烂在俎上，这不会妨碍霸业吧？’管仲说：‘这本不好，但不会妨碍霸业。’桓公说‘：怎样做才妨碍霸业呢？’管仲说‘：不能知人，妨碍霸业；知而不能任用，妨碍霸业；用而不给职衔，妨碍霸业；给职衔而不信任，妨碍霸业；虽信任而又让小人参与，妨碍霸业。’晋国中行穆伯进攻鼓国，过了一年还未攻下。馈闲伦说‘：鼓国的啬夫，闲伦认识，不用劳累士大夫，鼓国就可得到。’穆伯不答应。左右之人说‘：不折一戟，不伤一卒，而鼓国可得，您为何不答应？’穆伯说：‘闲伦为人，谄佞而不仁。如让闲伦拿下鼓国，我就不得不予以奖赏；如奖赏他，就是奖赏佞人。佞人得志，就是让晋国舍弃仁德而为邪佞，虽得鼓国，又有何用！’穆伯不过是列国大夫，管仲只是霸主的辅佐，尚能谨慎于信任别人，远避谗谀之徒，何况陛下这样的上圣呢！如想让君子小人是非分明，必定要以德怀抚，以信相待，以义勉励，以礼约束，然后表彰善人而厌弃恶人，审慎刑法而明于奖赏，无为而治的善政就为时不远了！如表彰善人而不提拔，讨厌恶人而不除掉，罚不加于有罪，赏不及于有功，那么危亡之时甚至不能保全。”
太宗下手诏给以表彰和答复。在这种情况下，下令废免明德宫玄圃院，将它赐给遭受水灾的民户。
有一天，宴请群臣时，太宗说“：贞观之前，随我平定天下，辗转奔波，是房玄龄的功劳。贞观以后，进献忠告，纠正我的过失，为国家求长久利益，仅魏征而已。即使是古代的名臣，也比不过他们！”亲自解下佩刀，赏赐给他们俩。太宗曾问群臣说：“魏征与诸葛亮哪个贤能？”岑文本说：“诸葛亮兼有将相之才，魏征不能和他相比。”太宗说“：魏征履行仁义，以辅佐本人，想使本人达到尧、舜地步，虽是诸葛亮也比不过他。”当时上书言事者多，有的不切实际，太宗厌烦，想予以驳斥，魏征说：“古时设立谤木，想了解自己的过错。密封的上书，就是谤木制度的遗意吧！陛下想知得失，应当任其所言。说得对，对朝廷有益；不对，也无损于政局。”太宗高兴了，对上书言事者全都加以抚慰而后送走。
贞观十三年(639)，阿史那结社率作乱，云阳石头自燃，从冬直到这一年的五月不下雨，魏征上疏极力尽言说：“臣侍奉陛下十几年，陛下答应臣推行仁义之道，保持它而不丧失；勤俭朴素，始终如一。善言还在耳边，臣不敢忘。近年以来，渐渐不如当初。现恭谨地分条陈叙，或可补其万一。
“陛下在贞观初年，清净寡欲，教化遍及荒远地区。如今派遣使臣于万里之外，购取骏马，搜访奇珍。从前汉文帝不接受千里马，晋武帝焚毁雉头裘。陛下时常议论，要远比于尧、舜，今日所为，却要居于汉文帝、晋武帝之下吗？这是逐渐不能坚持到底的第一件事。子贡问怎样治理百姓，孔子说：‘恐惧啊，就像用烂绳驾驭六马拉的车辆。’子贡说‘：怕什么呢？’孔子回答说：‘不用正道引导，就会成为我们的仇敌，怎能不怕呢！’陛下在贞观初年，关心百姓的疾苦，如同自己的子女一样，不轻易营建宫室。近来既已奢侈放纵，便想动用民力，还说‘：百姓无事容易骄慢，如服劳役就容易使唤。’自古以来不曾有过百姓安乐而导致国家覆亡的事，哪有怕他们骄纵而安排劳役的道理呢！这是逐渐不能坚持到底的第二件事。陛下在贞观初年，勤苦自己以利于他人，近来则纵欲以劳民。虽然不停地说忧民，而心里关切的却是使自己快乐的事。不考虑建造之事，而说：‘不这样做，对我身体不利。’按人之常情推论，谁敢再来谏争！这是逐渐不能坚持到底的第三件事。在贞观初年，亲近君子，排斥小人。近来则轻亵小人，而礼重君子。
礼重君子是对他们敬而远之；轻亵小人，是对他们宠幸接近。接近小人，就看不到他们的过错；疏远君子，就不知道他们的正确。看不到君子的正确之处，那么不等嫌隙出现就已疏远；看不到小人的过错，那么时间一长自会亲昵。亲昵小人，疏远君子，而想使政治清明，没听说过。这是逐渐不能坚持到底的第四件事。在贞观初年，不以异物为贵，不做无益之事。如今稀有之物纷纷进奉，玩好之物的制作没有停息的时候。君长奢侈淫逸而期望臣民艰苦朴素，土木工程遍地而期望农业兴旺，是办不到的。这是逐渐不能坚持到底的第五件事。贞观初年，求贤若渴，贤人所荐之人，陛下随即信赖使用，取其所长，并常常担心做不到这一点。近来用人，随其内心好恶而定，因群贤推举而用，又以一人的毁谤而废；虽是多年委任且受信任者，有时竟出于一时的怀疑而斥逐。人的行为有平昔遵循的信念，做事也有既成痕迹可查，一人的毁谤未必可信，多年的善行不应顷刻勾销。陛下不察其缘由，以一人之言作为褒贬的根据，就会使得谗佞之人通行无阻，守道之士日渐疏隔。这是逐渐不能持之以恒的第六件事。贞观初年，陛下身居高位，没有行猎的爱好。数年之后，不能保持初志，以致远方蛮夷，也来进献鹰犬，陛下晨出夜归，以驰马射箭为乐，不测之事发生，如何解救得了？这是逐渐不能持之以恒的第七件事。贞观初年，陛下待臣有礼，群情能够上达。如今地方官入朝奏事，见不到天子之面，偶有短处，便受指责挑剔，他们虽有忠诚之心，而不能申诉朝廷。这是逐渐不能持之以恒的第八件事。贞观初年，陛下孜孜以求治国之道，常常感到不足。近来却倚仗功业之大，才智之明，增长傲气放纵欲望，无事兴兵，问罪于远方蛮夷。受宠幸者迎合旨意不肯进谏，被疏远者害怕威势而不敢发言。长此下去，为害不浅。这是逐渐不能持之以恒的第九件事。贞观初年，连年发生霜旱灾害，京畿之民并往关外就食，扶老携幼，来往数年，而无一户逃亡。这是因为陛下怜惜抚慰，所以百姓至死也不离心。近来百姓疲于徭役，关中之人，更是疲惫不堪。
各类工匠服役期满，强留役使而不遣返；适龄军士轮番宿卫，到期另有驱使。官府购物很多，背负者相望于市肆及道上。
万一粮食欠收，百姓之心，恐怕不会像从前那样安定稳妥了。这是逐渐不能持之以恒的第十件事。
“福祸没有定准，全在人们自己招来，人无过失，妖物不会随意出现。如今干旱致灾，远及各处州郡，恶人造起的叛乱，就出在京城之内，这是上天在显示警告，也是陛下忧惧操劳之时。这是千载难遇的吉期，机会不可再得，明主能做到而不做，这就是臣之所以忧思难忘深为感叹的原因啊！”
这篇奏疏呈上后，太宗说：“我已知道自己的过失了，愿意改正，以使善道坚持到底。如果违背这些话，哪有脸面与您相见呢！正要把你这篇奏疏，安置屏风之上，以便早晚观看，还将把它抄送史馆，让千秋万代都了解君臣间的大义。”
随即赐予魏征黄金十斤，骏马二匹。
高昌平定后，太宗在两仪殿宴请群臣，叹息说：“高昌如不丧失德行，哪能至于灭亡！但我也要告诫自己，不用小人的话来非议君子，也许就能获得安定了。”魏征说：“从前齐桓公和管仲、鲍叔牙、宁戚四人一道饮酒，桓公对叔牙说：‘为什么不站起来为我祝寿？’叔牙捧杯站起来说‘：愿您不要忘了逃亡莒国的日子，愿管仲不要忘了被囚鲁国的日子，愿宁戚不要忘了车下喂牛的日子。’桓公离座向叔牙感谢道‘：我和两位大夫如能记住先生的话，国家就不会有危险了。’”太宗说“：我不敢忘记做平民的日子，您不可忘记鲍叔牙的为人。”
太宗派遣使者到西域册立叶护可汗。使者还没回来，又派使者携带金银丝帛到西域各国买马。魏征说“：现在册立可汗之事未定，就派人去各国买马，他们就会认为陛下意在买马，不在册立可汗。可汗得立，就不会怀念陛下的恩德。
各属国闻知此事，就会认为中国轻义而重利，不一定买到马而先丢了义。从前魏文帝想求购西域大珠，苏则认为如果皇恩达于四海，那么宝物就会不求自来；求购而得到它，就不值得宝贵。陛下不怕苏则的议论吗？”太宗便停派买马的使者。
之后尚书右仆射的职位空缺出来，太宗想用魏征，魏征推让，未任此职。皇太子承乾与魏王李泰彼此结仇，太宗说：“当今忠直贵重的朝臣，没人超过魏征，我派他辅佐皇太子，统一天下之人的期望，太子的翅膀就能变硬。”于是任命他为太子太师。魏征以病为由推辞其职，太宗下诏回答说：“汉太子以四皓为辅佐，我依靠您，也是这个意思。您虽卧病，也可保全太子。”
贞观十七年(634)，魏征病重。魏征家里原无正寝，太宗命令停建小殿，用其材料为之营构，仅用五天完工。赐给魏征素褥布被，以遵从其意愿。命令中郎将在他家值宿，有动静随时奏闻，所赐药品、膳食不计其数，宫中出使之人不绝于道。太宗亲临问疾，屏退左右，交谈终日才回宫中。后来又与皇太子一道来到魏征家里，魏征加盖朝服，拖着腰带。太宗悲痛忧闷，抚摸他流下眼泪，问他有何要求。魏征回答说：“寡妇不忧纬线的多少，而忧虑宗周的危亡！”太宗准备把衡山公主嫁给魏征的儿子叔玉，当时公主也随同来至其家，太宗对魏征说：“您看一下新娘吧！”魏征已说不出话。这天晚上，太宗梦见魏征还像平日一样，天亮时，魏征逝世。太宗亲临哭吊，极为悲痛，为之罢朝五天。太子在西华堂为魏征举哀。天子下诏内外百官朝集使全都前去送葬，追赠他为司空、相州都督，定谥号为文贞，给予羽葆、鼓吹、班剑四十人，将他陪葬于昭陵。将下葬时，其妻裴氏推辞说：“魏征平日节俭，现以一品官的礼节安葬，仪仗器物太多，不合他的本意。”太宗答应其请，便用素车载棺，白布做其帷幔，不用涂车及草人草马等物。
太宗登上禁苑西楼，遥望灵车而痛哭尽哀。晋王奉命在道旁设食祭奠。太宗亲做碑文，并书写出来刻在石上。还赐给其家封邑九百户。
太宗后来临朝，感叹地说：“以铜做镜子，可以端正衣冠；以古史为镜子，可以了解王朝兴废；以贤人做镜子，可以明白治政得失。我曾保有这样的三面镜子，对内防止自己的过失。如今魏征逝世，亡失了一面镜子。我近派人到他家去，得到写了字的一张纸，仅写一半，其中可辨认的部分这样说：‘天下的事情，有善也有恶，任用善人则国家安定，任用恶人则使国家危亡。公卿大臣之内，感情有爱有恨，憎恨的人只见到可恨之处，喜爱的人只看见可爱之处。爱与恨之间，应当小心谨慎地对待。如果爱其人而又知其缺点，恨其人而又知其优点，除去邪恶而不犹疑，任用贤人而不猜测，国家就能兴旺发达了。’其大体内容就是这样。我反复思忖，恐怕难免犯这种错误。
公卿大臣随从侍卫可将这些话写在朝笏之上，见此情况一定要进行谏争。”
魏征的身材容貌与普通人没多少不同，但有志气胆略，每次犯颜进谏，虽遇太宗暴怒，而神色不变，最终天子也为之收敛神威。议者说孟贲、夏育的勇气也不能与之相比。魏征曾于上冢墓返回时上奏说“：近来闻知陛下将出行关南，既已准备好而后又中止，这是为什么？”太宗说“：怕您有言，便中断此行。”起初，天下丧乱之后，典章图籍散亡，魏征上奏引荐诸儒收集校正秘书，使得国家图籍文献粲然完备。还曾因《小戴礼》综合汇录不合伦次，重新编写《类礼》二十篇，数年之后方才完成。太宗赞美其书，下令誊录后藏于内府。太宗本以武力平定天下，天下虽已大治，仍然不忘经略边疆蛮夷地区。因此魏征每逢侍宴，演奏《破阵武德舞》，就低下头来不看，演至《庆善乐》时，就欣赏回味而不知疲倦，全是为了借此寓托讽切意思而已。
魏征逝世后，太宗思念不已，登上凌烟阁观看功臣画像时，还赋诗痛悼魏征。
有人闻知此事妒心大发，百般诋毁魏征。
魏征曾经推荐杜正伦、侯君集有才干能任宰相，到正伦因坐罢官，君集坐谋反罪被杀后，小人便指责魏征曾阿附恶党；又说魏征曾记下前后谏争之言，给史官褚遂良观看。太宗因此更为不满，便停止叔玉的婚事，仆倒为魏征写的碑文，所以其家逐渐衰落。
辽东会战时，高丽、....兵马进犯唐军阵地，李责力等人尽力死战方才破敌。
大军返还后，太宗神情怅然地说：“魏征如健在的话，我能有这次行动吗？”立即征召其家属前往行在处所，赏赐慰劳其妻子儿女，用少牢祠祭魏征之墓，重新树立石碑，恩礼更为崇敬。
他有四个儿子：叔玉、叔琬、叔瞞、叔瑜。叔玉承袭其爵位为光禄少卿。神龙初年，以叔玉之子魏膺继续袭封。叔瞞，任礼部侍郎，武后时被酷吏杀害。叔瑜，任豫州刺史，善写草隶字体，将其笔意传授其子魏华及外甥薛稷。世人称书法精妙的人“前有虞世南、褚遂良，后有薛稷、魏华”。魏华任职检校太子左庶子，封武阳县男。开元年间，其家寝堂失火，子孙后人痛哭三天，朝廷下诏百官前往吊问。
魏征的五世孙有魏谟。
赞文说：君臣之间，相处难道不难吗！以魏征的忠诚，以太宗的明智，身死不久，猜忌诬陷便畅行无阻。当初，魏征的进谏之言，累计达数十余万字之多，至于君子与小人的道理，不是没有对太宗反复申述过，正是担心邪佞之徒扰乱忠良。但死后仍然不免此难。所以说“，洁白的东西易被污染，刚直的人难以自全”，成为自古以来人们感叹的话。唐人柳芳曾称：“魏征去世，人们不论认识与否，无不遗憾惋惜，认为他是类似于上古时代的正直之士。”这话说得不错啊！