梁武帝偏听朱异的话，侯景即将破城，他也不知晓；隋炀帝偏信虞世基的话，盗贼遍布全国而自己却不晓得。所以说，如果君主能多方听取意见，奸臣就不能蒙蔽君主，而下情才能顺利上达朝廷。”郑仁基有一个女儿，她既漂亮又有才华，皇后请求皇帝将她纳入宫中做为充华，册封的典册都已经办好了。有人说她已经定下婚约了。魏征向太宗进谏道：“陛下在楼台里居住，就应当让人民有居住的地方；陛下享用美味佳肴，就应让民众能吃饱肚子；陛下看到身边的嫔妃，就应让百姓有家室。如今郑仁基的女儿已经许配他人，陛下却要把她纳进后宫，难道是做百姓父母的做法吗？”太宗深深地责备了自己，立即下诏停止册封。
贞观三年（公元629年），魏征以秘书监的身份参与朝政。高昌国王鞠文泰即将来京师朝见太宗，西域各国都想趁此机会派来使臣进献礼品。太宗下诏，命鞠文泰的使臣厌怛纥干前往迎接他们。魏征说道：“从前鞠文泰人京朝见，所经过的地方尚且不能备齐供应的物品，如今再加上各国的使臣，那么沿边各州县因为供应物品不足而获罪的人将会增加。如果他们作为商人前来，边民还可以因此而获利；如果以宾客之礼来接待他们，中原地区就会因此而萧条、衰败。东汉建武年间，西域各国请求重新设置都护，并派遣王子入朝侍卫，光武帝都不同意，就是不愿意为了蛮夷而使中原地区凋敝。”太宗说：“你说的对。”太宗于是下令将已经发出的诏书追回。
太宗登基已经四年了，一年判死刑的囚犯才二十九个人，几乎将刑罚弃置不用了；米价一斗也才三钱。在此之前，太宗曾感叹道：“现在正是大乱之后，国家真是难以治理！”魏征说：“大乱之后国家容易治理，就好比饥饿的人容易喂食一样。”太宗说：“前人不是曾经说过，善人治理国家一百年，然后才能消灭残暴、去掉死刑吗？”魏征回答：“这不是圣哲之人说的。圣哲之人治理国家，其功效就如回声一般，一周年就可以见到成效，不算太困难。”封德彝却说：“并非如此。从夏、商、周三代以后，轻薄奸诈之风日渐厉害。秦代专门靠刑法来治国，汉代也很霸道，都想让天下大治却不能做到，并非是能够做到而不愿意这样去做。魏征只是一介书生，喜欢空谈大道理，只会使国家混乱，他的话不可以听信。”魏征反驳道：“五帝和三王并没有互换百姓再实行教化，实行的是帝道便成为‘帝’。实行的是王道便成为‘王’，关键是君主实行的是什么。黄帝赶走蚩尤，是经过七十次战斗才平息这次祸乱的，接着达到了无为而治的美好境界。九黎为害人民，颛顼帝发兵征讨，在打败九黎后就将国家治理得很好。夏桀昏乱，商汤将他流放；殷纣王残暴，周武王率军讨伐。商汤与周武王都在自己执政期间，使国家实现了太平。如果人们逐渐轻薄奸诈，再也不能回到淳朴的话，现在该是鬼魅的世界了，又怎么能教化他们呢？”封德彝无法反驳，但心里仍认为魏征的话不对。太宗却对他的话全部接受，毫不怀疑。
到了贞观四年（公元630年），已经实现了天下大治。少数民族的首领们改用汉族的衣冠，带着刀来京师宿卫。东到大海，南到南越五岭，百姓居家夜里不用关门，行人和商旅外出不用携带粮食，在路上就能得到供应。太宗告诉文武百官：“这是我听从魏征的劝告实行仁义的成效啊！可惜封德彝已经去世，见不到这样的情景了！”不久，魏征转任检校侍中，进爵为巨鹿郡公。太宗驾临九成宫，把后宫的嫔御们安排在围川县的官舍中。尚书右仆射李靖、侍中王珪随后赶来，县官让嫔御们与李靖、王珪等人调换房舍。太宗知道后很生气，说：“这些人敢于在外面耍成风，为什么轻视我后宫的人？”于是下诏对这件事进行查办。魏征认为：“李靖、王硅都是陛下的亲信大臣，后宫之人只不过是一些负责扫除的奴仆。大臣到外面，地方官员要向他们请教朝廷的法度；回来时，陛下要询问他们民间的疾苦。官舍，本来就是李靖等人召见地方官吏的场所，地方官吏也不能不前去拜见大臣。后宫之人则并非如此，他们也无须地方官吏前去参见侍候。如果因为这件事而查办有关官吏，将使天下人震惊。”太宗猛然醒悟，放下这件事不再追究。
后来，太宗在丹霄楼设宴，酒席间他告诉长孙无忌：“魏征、王硅从前侍奉隐太子李建成、巢王李元吉时，确实可恶，但我能放开旧怨而任用人才，可以说无愧于古人。但是魏征每次进谏，如果我不听从，我发了话他总不立即回应，这是什么缘故？”魏征回答：“我认为事情不对，就要劝谏，如果陛下不肯听从而我又马上答复，我担心陛下会马上实行。”太宗说：“你先答应，再另找机会把问题提出来，难道不行吗？”魏征说：“从前舜曾告诫臣下：‘你们不要当面顺从，退下去又有话说。’如果我当面服从了，再另找机会提出来，这就是‘退下去又有话说’，这并非后稷、契用来侍奉尧、舜的办法。”太宗大笑道：“有人讲魏征行为举止怠慢，我却只见到他的恭敬、顺从！”魏征又一次磕头谢恩说：“陛下引导我说话，我才敢这样；若非如此，我怎么敢多次冒犯陛下呢！”贞观七年（公元633年），魏征出任侍中。
当时，尚书省有一些案件久拖不决，太宗下诏命魏征负责处理。魏征虽然不太精通法律，只根据大的原则，依照实际情况来处理，所以人人都很满意。太宗将他进封为左光禄大夫、郑国公。因为身体多病，他提出辞职，太宗说道：“您单单见不到金属在矿山里有什么珍贵？如果把它精心锻造成器物，人们这才把它看成宝贝。我正把自己比为金属，把您比作良工而加以磨砺，您虽说有病，尚未衰老，怎么可以就这样辞职呢？”魏征恳切地多次提出请求，辞职之意越发坚定。太宗这才任命他为特进、知门下省事，下诏朝廷的规章制度，由他参议得失，至于俸禄和赐予、属员及服役人员与职事官相同。
文德皇后下葬后，太宗在禁苑中建造了一座高楼，以眺望昭陵。有一次，他带着魏征一起登上去，魏征仔细远望后，说：“我的眼睛昏花，看不到什么。”太宗就指给他看，魏征问：“这不是昭陵吗？”太宗说：“正是。”魏征说：“我以为陛下在远望献陵，如果是昭陵，我原本就看得见。”太宗听到这儿双眼垂泪，随即将这座高楼拆毁了。不久，因为魏征参加修订“五礼”，魏征的一个儿子应当封为县男。
魏征提出封自己兄长的独子魏叔慈为县男。
太宗很伤感地说道：“这可以勉励世人啊！”于是，就同意了他的请求。