一时之间便发展为可以与长安的唐、洛阳的郑相鼎立的势力。窦建德农民起义军的势力之所以发展迅速，其原因有如下几点：第一，他政治清明，善于吸引人才以收人望，他又善于采纳直言谏诤；第二，他出身农民，注意俭约，保持农民的朴素本色，在河北百姓中有基础，有威望；第三，他注意发展地方生产，劝课农桑，安顿社会秩序；第四，他注意团结士卒，善于用兵；第五，对于被俘的隋朝官吏和封建士人不仅以礼相待，并且让他们“参决军议”，加以重用。这一点对于瓦解隋军加强河北起义军的力量起到了积极作用。“此后隋郡长吏稍以城降之，军容益盛。”武德三年（620年）当李世民围攻洛阳时，窦建德则利用了唐、郑交战的机会乘机发展势力，巩固和扩大自己在山东和河北的地盘。因此，他曾答应过李渊唐、夏修好的建议。这年十一月，“世充遣使求救于建德”，建德的中书侍郎刘彬曾向他建议：“天下大乱，唐得关西，郑得河南，夏得河北，共成鼎足之势。今唐举兵临郑，自秋涉冬，唐兵日增，郑地日蹙，唐强郑弱，势必不支，郑亡，则夏不能独立矣。不如解除仇除忿，发兵救之，夏击其外，郑攻其内，破唐必矣。唐师既退，徐观其变，若郑可取则取之，并二国之兵，乘唐师之老，天下可取也。”建德同意这一建议，并“遣使诣世充，许以赴援”。但他并未及时发兵，真到这年的十二月，窦建德不仅对唐、郑的相斗作壁上观，而且乘机“克周桥，虏孟海公”。一直到武德四年三月，世民破洛阳已指日可下时，窦建德才治舟运粮，水陆并进沿沂河西上，率十余万大军，军于成皋。因为此时他已感到郑破则夏有“齿寒之忧”。
秦王世民面对新的局势，乃于青城宫召集将佐议之。内部出现了两种相左的意见。以萧踽、屈突通、封德彝为代表的一派意见认为：“吾兵疲老，世充凭守坚城，未易猝拔，建德席胜而来，锋锐气盛，吾腹背受敌，非完策也，不若退保新安，以承其弊。”而郭孝恪、薛收则认为：“世充保据东都，府库充实，所将之兵，皆江、淮精税，即日之患，但乏粮食耳。以是之故。为我所持，求战不得，守则难久。建德亲率大众，远来赴援，亦当极其精税。纵之至此，两寇合从，转河北之粟以馈洛阳，则战争方始，偃兵五日，混一之期，殊未有涯也。今宜分兵守洛阳，深沟高垒，世充出兵，慎勿与战，大王亲率骁锐，先据成皋，厉兵训士，以待其至，以逸待劳，决可克也。建德既破，世充自下，不过二旬，两主就缚矣！”李世民接受了这一建议，并进一步分析认为：“世充兵摧食尽，上下离心，不烦力攻，可以坐克。建德新破海公，将骄卒惰，吾据武牢（即虎牢）扼其咽喉。彼若冒险争锋，吾取之甚易。苦孤疑不战，旬月之间，世充自馈。城破兵强，气势自倍，一举两克，在此行矣。
若不速进，贼人武牢，诸城新附，必不能守，两贼并力，其势必强，何弊之承！吾计决矣！”于是使屈突通等辅佐李元吉围困洛阳，自己亲率精锐3500人东赴虎牢。著名的虎牢大战便发生了。
李世民军至虎牢，率骑500人，出虎牢之东二十余里，侦察敌情。并引诱敌兵进入伏击圈，大破之。武德四年四月，窦建德因唐兵于虎牢相拒，西进不得。留屯累月，且数战不利，将士思归。并且李世民又派轻骑，抄掠其粮道，于是军心涣散。这时，部下凌敬建议：“悉兵济河，攻取怀州、河阳，使重将守之，更鸣鼓建旗，腧太行人上党，徇汾、晋，趣蒲津，如此有三利：一则蹈无人之境，取胜可以万全；二则拓地收众，形势益强；三则关中震骇，郑围自解。”但这一“围魏救赵”之策却被讥讽为“书生”之言。建德妻曹氏亦建议：“应乘唐关中之虚自滏口，连营渐进以取北山，又借突厥之势西抄关中，唐必还师自救，郑团支书必解。”但建德也未接受这一建议。
五月一日，秦王世民渡河，察敌形势，留马千余匹，牧于河渚以引诱窦军，人晚潜还虎牢。翌日，建德果然以全军出击，自板渚出牛口设阵，北距大河，西临汜水，阵长20里，鼓引而进。世民率数骑登高丘而望，对诸将说：“建德度险而嚣，是无纪律，逼城而陈，有轻我心，我按甲不出，彼勇气自衰，陈久卒饥，势将自退，追而击之，无不克者。与公等约，甫过日中，必破之矣！”
建德列阵，自晨及午，士卒饥倦，皆列坐，又争饮水，已无斗志。世民把握战机，命宇文士及等300骑经建德阵前，驰而南上，并告诉他：“建德军不动，引军而归，动则引兵东出。
诱敌而击之。，’士及引军至建德阵前，阵果动。世民下令说：
“可以出击！’’世民率轻骑先进，大军继至，东涉汜水，直逼其阵。唐兵猝至，建德窘迫，唐军所向披靡。诸军大战，尘埃涨天。世民亲率史大奈、程知节、秦叔宝、宇文歆等，出其阵后，张唐旗帜，建德将士见之，不战而溃。追奔30里，斩首级3000。建德中槊负伤，窜匿于牛口渚，被擒。
秦王世民囚窦建德等至洛阳城下，以示世充。世充召集诸将商议突围，南走襄阳，诸将反对说：“吾所依恃的是夏王，今夏王已被擒，虽可以逃出，但终亦无成！”王世充只好投降。
一部分唐军先人洛阳，分守市肆，禁止侵掠。世民观隋朝洛阳宫殿，感叹说：“逞侈心，穷人欲，无亡得乎！”
历时两个月的虎牢之战至此结束，唐朝的统一战争取得了关键性的胜利！
七月九日，秦王世民凯旋之师，还抵长安。世民披黄金甲，齐王元吉、杨世勋等25将从其后，铁骑万匹，威武壮盛，在朝野上下轰动一时。这年冬天，李世民因军功被加封为天策上将，地位在诸王公之上，并设立天策府及其府属，作为他在军事上的顾问决策机构。至此，李世民的军事权力亦达到高峰。在败夏灭郑之战中，也充分展示了李世民的军事才华和战争指挥艺术。
窦建德失败以后，其诸将多盗匿库物，因而被唐官府追索。且他们居住乡里，“暴横为民患”，“唐官吏以法绳之，或加捶挞，建德故将皆惊惧不安”。高雅贤、王小胡家在沼州，欲窃携其家以逃，官吏追捕甚急，雅贤等亡命至贝州。适逢唐高祖李渊征建德故将，范愿、高雅贤等人赴长安。范愿等人认为：“王世充以洛阳降唐，其将相大臣段达、单雄信等皆夷灭，吾属至长安必不免矣。”还认为：“夏王得淮安王，遇以客礼，唐得夏王即杀之，吾属皆为夏王所厚，今不为之报仇，将无以见天下之士！”于是在武德四年（621年）七月间，拥戴窦建德的故将刘黑闼，起兵反唐，袭漳南县而据之。
对刘黑闼这次起兵的原因及其性质，我们应全面予以分析。第一，这次起兵的直接原因，是唐地方官吏对他们采取了“或加捶挞”，以及到处追捕等高压政策所造成的，因而具有农民反抗压迫的性质。第二，隋朝灭亡之后，原来以推翻隋王朝为目的的农民起义和农民战争就转化为封建的兼并统一战争了。唐灭夏的战争，就是这种性质。而刘黑闼的起兵是打着为夏王“报仇”的旗号，因此，唐对刘黑闼的用兵应视为唐灭夏兼并战争的继续。当时，统一是历史的发展潮流，因而刘黑闼的起兵是与时代潮流相抵触的。且窦建德的部下在乡里横暴为民患，唐朝的地方官吏“以法绳之”，这对于维护地方秩序、巩固地方政权、维护统一都是必要的和有利的。因此，唐对刘黑闼的用兵，其主要性质就是兼并战争。
刘黑闼起兵之后，在半年的时间里就“悉复建德故地”，有人认为这是获得了河北地区广大群众拥护的结果。其实军事上的暂时胜利是不能与百姓的拥护与否相联系的。若此种观点成立，李世民最终打败了刘黑闼，又收复了河北之地当如何解释？因此，全国的重新统一才是顺乎民心的事。
譬如窦建德失败之后，其部将齐善行以沼、相、魏州降唐。当时建德的余众至沼州，便欲立建德养子为主，征兵拒唐，又欲剽掠居民，还向海隅为盗。善行认为不可，他说：“隋末丧乱，故吾属相聚野草，苟求生耳。……今丧败如此，守亦无成，逃亦不免，等为亡国，岂可复遗毒于民！不若委心请命于唐。
……勿复残民也！”又如当高雅贤动员窦建德故将刘雅起兵时，刘雅则说：“天下适安定，吾将老于耕桑，不愿复起兵！”这些言论是顺乎时代代表民心的。
刘黑闼起兵之后，已降唐的徐园朗在兖州也举起了反唐的旗帜，起兵响应刘黑闼。当时河北、河南的形势顿时为之一变。
唐得悉刘黑闼的叛乱，即部署讨伐之事，置山东道行台于沼州，以淮安王神通为山东道行台右仆射。八月，发关中步骑3000，使将秦武通、定州总管李玄通击之，又诏令幽州总管罗艺引兵会击刘黑闼。这时刘黑闼已邰县，魏州刺史权威、贝州刺史戴元祥皆战死，窦建德旧党又参加了黑闼的起兵，众至2000人。刘黑闼自称将军。九月，刘黑闼打败李神通、罗艺的军队，兵势因而大振，遂成燎原之势。
十二月初，刘黑闼攻陷冀州、沼州，打败李世勋的军队。
河南、河北的形势严峻起来，在这种形势之下，李世民“又自请统兵”东向讨伐。李渊乃命秦王世民、齐王元吉等讨伐刘黑闼。而刘黑闼又相继攻陷邢、赵、魏、华等州，半岁之间，尽复建德故境。武德五年（622年）正月，刘黑闼自称汉东王，定都沼州。“窦建德时文武，悉复本位，其设法行政，悉师建德，而攻战勇决过之。”
秦王世民率军至获嘉，刘黑闼弃相州，退保沼州。世民复取相州，进军肥乡，列营沼水之南逼之，构成了对刘黑闼的严重威胁。是时，幽州总管罗艺，亦将所部兵数万鼓城，与世民合击。并在徐河大败黑闼弟刘十善，俘斩八千多人。二月，唐相继攻克刑州、并州，罗艺又克定、赵等四州，遂向沼州会师，与秦王世民形成对刘黑闼的南北夹击之势。
三月，世民与罗艺营于沼水之南，并分别遣奇兵绝其粮道。当时刘黑闼运粮于冀、贝、沧、瀛诸州，水陆俱进，唐将程名振以千余人邀击之，沉其舟，焚其车，使刘黑闼失去了持久战的依据。唐军与黑闼相持六十余日。世民估计黑闼粮尽，必求决战，于是派人在沼水上流筑堰，并对看守堤堰的官吏说：“我击贼之日，候贼未度而决堰。”刘黑闼果然率骑兵2万南渡沼水，压唐营而阵。世民自率精骑击其骑兵，破之。乘胜蹂其步兵。刘黑闼率众进行殊死战，自午至傍晚，大战数十合，黑闼军力不能支，其将王小胡对黑闼说：“智力尽矣，宜早亡去。”遂与黑闼逃跑了。余众不知，仍进行格斗。唐兵又决堰，沼水大至，深丈余，黑闼之众遂大溃。沼水一战，唐军斩首万余级，溺死数于人，黑闼等二百多人奔突厥，山东悉平。
但是事过两个月即到武德五年六月，刘黑闼又回到山东。仅用四个月的时间，又重恢复故地。十月齐王元吉率兵讨伐，行军总管李道玄为黑闼所杀。十一月李建成又亲征，接受魏征建议，采用安抚政策，争取民心。刘黑闼失去了社会基础，终于溃败，武德六年正月，兵败被杀于沼州。
武德四年（621年）十月，平下萧铣。
武德七年（624年）三月，唐军镇压了江淮辅公柘的力量，江南悉平。
至此，统一战争基本结束，李唐王朝建立起一个大一统的封建中央集权的政权。
从李渊、李世民父子统一全国的过程中，我们可以清楚地看到，唐军对窦建德一战，是统一战争中真正意义上的最后一场大战，此后由于百姓厌战情绪越来越强烈，因而随后的几场战役显得毫无“人气”，李唐军队比较轻松地就一一拿下了。李渊、李世民父子善抓民心，顺应民意，根据时局需要及时调整战略部署，以尽快达成全国的统一，他们那敏锐的洞察力和高超的军事决策能力，在统一战争的末期，又一次得到了展示和印证。