这时，隋末农民起义已经爆发。公元611年，山东邹平县农民王薄率先发动了武装起义。一时间，各地农民起义也风起云涌，隋统治阶级内部各种势力也开始分崩离析。公元613年，重臣杨素之子杨玄感发动了大规模反隋起义，给予隋炀帝政权以沉重打击。两个月后，反叛被镇压下去，但全国各地的农民起义已此起彼伏，隋王朝摇摇欲坠。
公元616年，李世民随父亲来到山西太原，参加镇压甄翟儿领导的农民军，使李世民受到了初步的军事锻炼。公元617年，李渊出任太原留守，李世民随父赴任。
在农民起义军的打击下，隋炀帝困守江都，危在旦夕，隋王朝已经注定即将灭亡。穷途末路的隋炀帝惶惶不可终日，对大臣们无端猜忌，动不动就将大臣或处死或贬抑。李渊也受到隋炀帝的猜忌，早就有取代隋朝之心的李渊也准备起兵反隋，但还是有些犹豫不决。这时李世民仗义疏财，私下结交义士、侠客，赢得了不少有识之士为其出谋划策。当时的晋阳县令刘文静和晋阳宫副监裴寂都是李世民莫逆之交，他们与李世民一道多方劝说李渊尽快起事，李渊终于下定决心。公元617年农历五月，李世民协助父亲李渊除掉了隋炀帝派来监视他们的亲信，在晋阳宣布起兵，正式打出了反隋的旗号。
晋阳起兵以后，李世民的哥哥李建成、弟弟李元吉以及妹夫柴绍也先后率领一部分队伍从河东、长安秘密赶至晋阳会师，使起义力量迅速扩大。随后，李渊建立了左、中、右三军，李世民被任命为敦煌公、右领军大都督，统帅右三统军。然而，李渊出师不久就遇到了隋将宋老生的抵抗。由于遇上阴雨连绵，军饷未到，突厥援军也迟迟不来，李渊失去信心，准备退回晋阳另作他图。李世民劝住了父亲，使李渊坚定了信心。在攻打宋老生的激战中，李世民血染战袍，身先士卒，带领士兵击溃了宋老生。
此后，李渊又率军东进，又遇到隋将屈突通的顽强抵抗，李渊部队内部意见不一，李世民力排众议，建议主力绕过屈突通，迅速向长安进军。李渊再次听从了李世民的这一大胆建议，还命令李世民沿途收编各路归附李氏的地主武装，李世民的西路军迅速发展到十多万人。
攻下长安后，李渊先将隋炀帝的孙子杨侑立为傀儡皇帝，以便号令天下。然后在关中积极发展势力。公元618年5月，李渊正式即位，国号为唐，李世民被任命为尚书令，改封秦王。从此以后，李世民就以秦王的身份活动于政治舞台，叱咤于陇西、关东。
唐王朝建立后，政权还不十分稳固。在隋末的政治舞台上，李氏的实力并非最强。谁能顺平形势，采取正确的作战方针，谁才能最终取得胜利。但是，李渊称帝后不便再亲自挂帅出征，皇太子建成也需要留在京城协助父皇处理各项政务。因此，指挥和领导统一战争的重任就自然地落在了秦王李世民的身上，开始了他历时4年多的艰苦卓绝的统一战争生涯。
秦王李世民的第一个对手是盘踞在金城（今甘肃兰州）的薛举。当时，薛举拥兵80万，地理位置得天独厚。此患不除，李渊就不敢东出潼关，进兵关东。公元618年11月，李世民亲自率领大军讨伐薛举。经过两次激烈的交锋，终于荡平了这一割据政权。当时，国内尚有刘武周、王世充、窦建德等强大的军阀势力和农民军势力，北方突厥汗国更加强大，在唐的北部扶植了占据朔方（今陕西横山）的梁师都和占据马邑的（今山西朔县）刘武周两个傀儡。刘武周南下攻唐，一时间声势浩大。
李渊放弃河东，退守关中，李世民予以反对，并主动请缨大败刘武周。李唐王朝转危为安。
此后，李世民又转战中原，公元620年7月，大军逼近洛阳。窦建德出于自保，亲率10万大军增援困守洛阳的王世充。李世民正确地判断了军事形势，衡量了自己的军事实力，毅然扩大了战役范围，果断地兵分两路，一路继续攻城，一路由他带领，进驻虎牢（今河南汜水），挡住了窦建德的去路。次年五月，决战虎牢，窦建德兵败被俘，王世充走投无路，举城降唐。李世民一举战败了王世充、窦建德两支劲旅的战役，充分显示了李世民的机智果断以及出色的军事胆略和指挥艺术。
李世民统一全国的卓著功绩，使他威信日高，权力日重，政治地位和军事地位都在迅速增长。李世民还在晋阳起兵和统一全国的战争中，利用自己特殊地位和条件，收罗了大批谋臣猛将，逐渐组成了一个以他为核心的政治集团。李建成非常妒忌李世民所取得的军事地位和政治地位，也很担心李世民会跟他争夺皇太子的位置。
为了维护自己的皇位继承权，李建成也大力搜罗人马，又与弟弟齐王李元吉结盟，共同对付李世民。因而围绕着王位继承问题，形成了以李建成为首的“太子党”和以李世民为首的“军功党”，他们互相倾轧，明枪暗箭，愈演愈烈，直到公元626年李世民的先发制人才结束了这场皇室斗争。
这时，突厥入塞围攻乌城，李建成便请求唐高祖让李元吉北征，唐高祖答应了。
临出征前，太子东宫的王至暗中投靠了李世民，他把李建成和李元吉企图趁李世民给李元吉饯行时，趁机下手的阴谋告诉了李世民，李世民闻言大惊，终于痛下决心，采纳长孙无忌和尉迟敬德的建议，先发制人，除掉李建成和李元吉。经过密谋，李世民于当天夜里进宫，向唐高祖告状，并求得唐高祖下令第二天一早，召兄弟三人一起进宫对质。
第二天早晨，李建成和李元吉奉旨进宫，他们带着几名家人来到玄武门时，发现李世民已在门前等着他们。
李建成和李元吉觉得事情不对，赶紧拨转马头，准备回去。李世民骑着马追来，李元吉慌忙转过身来，拉开弓，就想射杀世民，但弓弦还没拉开，李元吉就慌里慌张地把箭射了出去。李世民很轻易地躲过了，马上拉弓搭箭，将跑在前面的李建成一箭射死，李元吉吓得没命地骑马狂奔，结果被李世民的心腹尉迟敬德射杀。太子东宫和齐王府的卫队2000余人闻讯赶来，与李世民的士兵混战在一起。李世民下令将士守住玄武门，并让尉迟敬德进宫，逼迫唐高祖李渊立李世民为太子，并将国事委托给李世民处理。两个月后，李渊被迫退位，李世民随即登基称帝，是为唐太宗。
任用贤能施行仁政
李世民即位之时，中央政权的基础还不十分稳固。
所面临的首要问题是稳定局势，建立以自己为核心的最高领导集团。他接受了尉迟敬德提出的“杀人太多，不利于天下安定”的建议，采取了宽大安抚和任用东宫属僚的政策，缓和了统治集团内部的矛盾。后来有名的谏臣魏征就是原来太子李建成的幕僚，李世民曾当众责备魏征离间其兄弟之情，但魏坚持不屈，还为李建成没有听从他的忠告，最终败给了李世民而遗憾。对此唐太宗十分赏识，钦佩他忠心耿耿，有胆有识。不仅没有为难他，而且还提升他为谏议大夫，在唐太宗身边参予决策。
在稳定局势的同时，李世民又着手整顿父亲在位时的宰相班子，以知人善任的原则，逐步建立起了以自己为核心的最高决策集团。这个班子汇集了当时最杰出的人才，在政治上呈现出明显的朝气和进取精神。随后，太宗又对中央机构进行了一系列的改革，改造了三省六部制，为唐宰相制度奠定了基础。为使中央各部门之间相互监督，太宗特别强调在实践中坚持讨论、封驳、执行相结合的原则，推行“五花判事”制度。与此同时，行政机构也得到精简，贞观初年文武官员总共只有640员。精简后的国家机器，效率得到了提高，既节省了财政开支，又减轻了人民负担。通过对领导班子的改革，李世民不仅牢牢的巩固了自己的地位，而且也为进一步励精图治、开创贞观之治的新局面奠定了基础。
李世民从秦王到皇帝，伴随着隋王朝的土崩瓦解。
整个过程，波澜壮阔。贞观初年的形势，对刚刚登上皇位的唐太宗李世民来说是不令人乐观的。当时，统一战争刚结束不久，社会矛盾还没有完全缓和，民心还不十分安定，而且全国各地的自然灾害也不断发生，社会经济仍然凋敝不堪。如何治理这个国家，成为他所面临的重要问题。李世民既亲身经历了打江山的残酷斗争，深知创业之难；又从隋炀帝身上，悟出守业更难的道理，这使他时刻保持清醒。因此，在唐太宗身上，总能看到一种来自农民革命风暴对地主阶级的震撼力量，这种力量使他能兢兢业业，居安思危，励精图治。面对隋朝灭亡的历史教训和贞观初年百废待兴、百乱待治的局面，唐太宗经过深深的思考，决定以大治天下作为自己的施政方针。
治国方针确定以后，唐太宗首先抓了国家的政治建设，把任贤和纳谏作为保证致治的两条主要措施。贞观初年的官吏，大多是跟随李渊父子攻伐四方，统一天下的功臣，他们虽能为李氏王朝骑马打天下，但却不能下马治国家。对于行军打仗，他们无所不能，但面对烦琐的政务，却只能束手无策。因此，唐太宗李世民要想大治天下，就必须任用一批能治理国家的人才，因而他不拘一格，选拔人才。他不计个人恩怨和私利，任人唯贤，不避远近亲疏。他手下的文武大臣有隋朝旧臣李纲、封伦；来自农民起义军瓦岗军的徐世绩、秦叔宝、程咬金等；而魏征就是太子李建成的部下。唐太宗有一句话，叫做内举不避亲，外举不避仇，可以说是对他用人方针的生动概括。
唐太宗为更大程度地甄选人才，为自己所用，他设立了“弘文馆”，以管理学校，著书立说，培养选拔人才。
太宗还亲自视察国子监和太学，增筑学舍，增加学员。
此外，唐太宗还沿用了隋炀帝所制订的科举制度，并在此基础上加以发展，设立许多考试科目，进士科是其中最重要的科目。这些措施的施行，促进了封建文化的发展，使贞观时期成为唐代教育史上的黄金时代。
李世民采取求贤纳才、知人善任的用人政策，不拘一格选拔人才，使得在他统治时期，整个朝廷人才济济，群贤荟萃。公元643年，李世民曾将其中的佼佼者画在凌烟阁内，这24位功臣是长孙无忌、房玄龄、杜如晦、魏征、尉迟敬德、李孝、高士濂、李靖、萧禹、段志玄、刘弘基、屈突通、殷开山、柴绍、长孙顺德、张亮、侯君集、张公理、程知节、虞世南、刘政会、唐俭、李绩、秦叔宝等。除了精通政务的人才，李世民还重用姚思廉、陆得明、孔颖达、颜师古等著名的文学家；欧阳询、褚遂良、阎立德、阎立本等卓越的书法家和画家；阿史那吐乐、执失思力等杰出的少数民族将领。这些谋臣猛将、文人学士都为唐太宗大治天下的政策出谋划策，为备受后人称颂的“贞观之治”的贡献了自己的才干和智勇。
在大力选拔人才的同时，李世民还进行了法制的改革和建设，采取了慎刑宽法和严格加强法制的措施。为实现大治天下的治国方针提供了法律上的保障，创造了良好安定的社会环境。
李世民将赏功罚过作为法制改革的标准，任命房玄龄、长孙无忌在参考《武德律》的基础上制定了封建社会最完备的法典《贞观律》。后来长孙无忌又在李世民的支持下，组织了19名法学专家为《唐律》作注，完成了《唐律疏议》。五代以后的各朝法律大都以此作为蓝本相应增删。
此外，《贞观律》还是唐朝的宪法，它包括“律、令、格、式”，从国家制度到社会经济生活，以及民间的婚丧嫁娶等方面，都有详细规定。凡是违犯律、令、格、式的，一律按法律处理。《贞观律》规定了1546条国家的制度和政令，称之为“令”；又将武德九年的制度从3000条精简为700条，规定了文武百官的职责范围，作为考核官员的依据，称之为“格”；还规定了尚书各部和诸寺、监、十六卫的工作章程，称之为“式”。
同时，李世民又亲自选拔了一批正直无私、断狱公平的人担任法官，并亲自检查法官对案件的处理情况，以保证律、令、格、式的贯彻执行，并将死刑的终审权收归中央，以免出现冤案。同时，唐太宗还规定对死刑要三次上报中央，被批准后方可执行。
制订法律以后，李世民以身作则，执法如山，对自己的亲属和部属要求非常严格，如有触犯刑法者，严格依法处理，从不私枉法。这就使得法律得以顺利地贯彻，在中央和地方政府中起了积极的影响和作用，使贞观初期逐渐形成了执法严肃，令行天下的好风气。
唐太宗提倡戒奢崇简，并以身作则。他即位的第二年，关内发生了严重干旱，百姓无以为生，只得卖儿卖女。
唐太宗知道后，立即下令用自己专用财物赎回被卖出的孩子，归还其父母。唐太宗即位后，居住的还是隋朝建造的宫殿，这些宫殿大都破旧不堪。作为一个新王朝的君主，李世民本来可以大兴土木，另建新的宫殿，加上他自己患有“气疾”，住房地势偏低，夏季暑热，常常犯病。
大臣们劝他重建高楼深苑，他嫌劳民伤财，没有同意。
唐太宗还严厉禁止厚葬和奢侈行为，因而逐渐形成崇尚节俭的风气，出现了一大批以节俭闻名的大臣，这就减轻了国家和人民的负担，促进了社会经济的恢复和发展，为休养生息、社会安定创造了条件。李世民还特别重视农业生产和农民生活。