魏征为人刚直不阿，受到唐太宗的器重。不久，魏征升任尚书左丞。贞观三年（629年），他以秘书监参知国政，被封为郑国公。
魏征向太宗面陈谏议五十次，呈送太宗的奏折十一次，一生的诤言多达"几十万"言。
魏征的谏诤涉及的范围很广，军国大事的失误是主要内容。为了平治战乱的创伤，魏征劝太宗与民休养生息，反对营造宫室和对外用兵；为了社会的安定，他劝太宗废除严刑峻法；为了政治清明，他劝太宗用人应"才行俱兼"；在刑赏的问题上，魏征认为应该劝善惩恶，贵贱亲疏一律平等；他对太宗说："兼听则明，偏信则暗"；他劝太宗以"亡隋为戒"。魏征对唐太宗的失误之处批评十分尖锐。
贞观八年，李世民准备修建洛阳宫，中牟县丞皇甫德参听说以后，上了奏书，说修建洛阳宫劳民伤财，加收地租等于横征暴敛，宫女竞相梳高鬏，使世风日下。
唐太宗说："这叫啥奏章？难道国家不征派劳工，不收租子，宫女都剃头吗？"唐太宗以诽谤罪逮捕皇甫德参。
魏征奏道："臣子向皇帝上书时，大多言词激切，否则难以引起皇帝的重视。陛下这样重治他，会堵塞言路的。"
唐太宗说："你说得对，赦免皇甫德参，赐二十匹绢。"魏征向太宗奏道："陛下不喜欢直言进谏了。"李世民说："为什么？"
魏征道："原来有人上谏，皇上的赏赐很重。臣等上谏不是为了赏赐，但从赏赐上，能够看出皇上对进谏的态度大变。"唐太宗说："爱卿说得对。朕命皇甫德参担任监察御史，你觉得怎样？"魏征说："陛下英明！"
有一次，唐太宗正在把玩鹞鸟，魏征求见，太宗赶紧把鹞鸟揣在怀里。平时他们单独谈话时，李世民都会给魏征赐坐。李世民想让魏征快点走，让他站着禀报。
魏征不敢不从，汇报了视察的情况。魏征偷偷地抬头看见李世民的胸前起伏不定，李世民忙把皇袍向下拉。
魏征把视察的情况讲解得细致入微，李世民对他说："爱卿辛苦了，回家休息去吧。"魏征又说起了奇闻轶事，说歌颂李世民的民谣。李世民不好意思打断，但鸟儿拼命挣扎，李世民把它压住。
魏征谈了一个小时："陛下，若没有其他事情，容臣告退。"李世民说"爱卿快休息去吧。"
魏征说："陛下，臣还有件事需要禀报。"魏征又谈了两个小时，看到李世民生气了，才告退。
李世民见鹞鸟死了，气得大骂："这个胡搅蛮缠的乡巴佬。"
一次罢朝后，太宗说："我必须杀了这个乡巴佬，每次上朝都污辱我。"
贞观六年（632年）八月，长乐公主下嫁，太宗下令资妆要倍于永嘉长公主。魏征说："大唐刚颁布新律，臣民都遵纪守法。而您身为一国之君，由于爱女出嫁，就把婚礼搞得这么豪华。若大臣们群起仿效，百姓们也会怨声四起，后果不堪设想！"
太宗说："长乐女是我最宠爱的女儿，再说这些年国势强盛，多给她一些嫁妆，也不过分呀？"
魏征说："情虽有差，义无等别！从感情上说，父女之情胜过姐弟。但不能因为在感情上亲近，就多给嫁妆。长公主是大唐的开国元勋，曾率娘子军立下大功。长乐公主生在宫中，没有立丝毫功劳，还是长公主的侄女。如果她的嫁妆高出长公主一倍，人们如何看待长公主呢？"
李世民为难了："如果收回成命，长孙兄和长乐拒不接受，怎么办呢？"
魏征道："您的妹妹是长公主，长就是比公主尊贵的意思。让公主的级别超过长公主的级别，就是以权违法，后患无穷啊！"
李世民说："好好好，就按你的意思办。"