隋炀帝不甘心失败，同年八月，他下令把全国四大粮仓的粮食调集到望海顿（今辽宁锦县东南），为第二次进攻高丽作准备。大业九年（613）正月，隋炀帝不听劝阻，发动第二次进攻高丽的战争。四月，隋炀帝渡过辽河，亲自到前线督战。在野战中数万高丽兵被一千隋军打败，高丽兵再度退入城内固守。就在辽东城马上就要攻破时，后方传来了礼部尚书杨玄感起兵叛乱的消息。隋炀帝闻讯，不得不丢下全部的军械物资仓促从辽东撤军。由于撤退突然，造成全军混乱，高丽尾随截杀，隋军大败。第二次进攻高丽又告失败。
两次的征伐失败并没有使隋炀帝清醒，大业十年（614）二月，他又下令文武百官商议发动第三次征伐高丽的战争。群臣慑于皇帝的劝诫者杀，无人敢站出来告诉他当时的形势。那时隋朝遍地已是农民起义，加之多年用兵，黄河以北的生产遭到严重的破坏，河北已失去昔日的繁荣景象，疾病饥饿已经成了人们最大的敌人。隋炀帝下令征召天下兵马、粮草，开赴辽东，但水陆两军被征士兵想尽办法逃脱兵役，隋炀帝虽然斩杀逃兵，却也不能抑制士兵逃亡，再加上风起云涌的农民起义也使正常的交通断绝，致使陆军没能如期会合，只能要求水军进攻。在取得卑奢城（今辽宁金县东）胜利后，隋炀帝准备继续向平壤进攻。而此时的高丽在隋炀帝“锲而不舍”的连续进攻下也已力不可支。高丽王看到兵祸连年，人民深受其害，遂遣使上表投降。隋炀帝高兴地认为征伐有了结果，便命令水军退兵，八月四日，隋炀帝从怀远镇回国，三伐高丽终告结束。
三伐高丽满足了隋炀帝好大喜功、扬威异域的欲望，却使隋初励精图治、休养生息的政策遭到了严重破坏，致使隋国力大减，由鼎盛走向了衰落。
反隋义旗
隋炀帝不断地征兵扩张，无限制地征发徭役和兵役，给人民带来了深重的灾难，各地起义烽起。
大业七年（611），王薄在长白山（今山东章丘境内）率先举起了反抗的大旗，揭开了反隋风暴的序幕。
王薄起义，揭开了全国农民战争的序幕。各地起义的烽火迅速燃遍了全国。其中著名的有三支队伍，窦建德领导的河北起义军、翟让和李密领导的瓦岗军、杜伏威领导的江淮起义军。
窦建德领导的河北起义军是在河北各地起义军反隋基础上发展壮大起来的。大业七年（611），窦建德领导农民在高鸡泊（今河北故城县西南）起义，树起反隋大旗，队伍迅速发展到一万余人。大业十二年（616）十二月，涿郡（今河北涿州市）守将郭洵率军进犯高鸡泊，窦建德率七千义军乘隋军不备，突然袭击，杀敌军数千，斩隋将郭洵，声威大振。大业十三年（617）正月，窦建德在乐寿（今河北献县）称夏王，国号五凤。他在聊城杀死宇文化及及其同党，接收了隋朝传国“玉玺”，并以皇帝自居。唐高祖武德四年（621），窦建德与李世民因“玉玺”在虎牢关（今河南荥阳西北）交战，因轻敌冒进，被李世民俘获。
瓦岗军是三支农民起义军中最强的一支。大业七年（611），翟让聚众在瓦岗寨（今河南滑县南）起义，举兵反隋。山东、河南两地农民纷纷参加，单雄信、徐世勣都率众投奔瓦岗寨，队伍迅速壮大。这时候一个使瓦岗义军迅速壮大而又最终导致起义失败的人出现了，他就是李密。李密出身大官僚贵族家庭，参加杨玄感兵变失败后，隐姓埋名，流浪在河北、河南之间。在观察各个义军之后，他选中了瓦岗军。在王伯当的引荐下，他加入了瓦岗军。李密凭借他游说的能力很快就把许多大大小小的义军召集到了瓦岗寨，使瓦岗军的队伍在短时间内得以壮大。翟让对李密的能力十分佩服，二人关系越发密切。大业十二年（616），李密向翟让建议：“我认为现在咱们应该先攻取荥阳，养精蓄锐，等兵强马壮了，再和他们争夺天下。”荥阳是隋朝重要的军事据点，翟让亲自率兵攻下了荥阳门户金堤关及周围属县、同年十月，隋炀帝派隋军主力前来镇压。瓦岗军采取诱敌深入、伏兵袭击的战术，把隋军全部歼灭。河南道“讨捕大使”张须陀突围不成也丧了命。瓦岗军取得了荥阳大捷，威震河南。大业十三年（617），瓦岗军攻下隋朝最大的粮仓——兴洛仓，把粮食分给了贫苦的百姓，瓦岗军再扬声威。接着，瓦岗军又大败越王杨侗的军队，力量得到进一步加强，成为中原地区起义队伍的中心。李密能谋善战，又善于笼络人心，秦琼、程咬金、魏征等一批文武人才都聚拢在他周围。于是，翟让主动让位，推李密为主，号魏公，建立了瓦岗军农民政权。不久，这支起义军又攻占了黎阳、回洛二仓，开仓济民，十天内得兵二十余万人。踌躇满志的李密发布讨隋檄文，声讨隋炀帝罪行。随后，瓦岗军向隋朝东都洛阳进军，隋炀帝十分恐慌，派王世充率精兵增援洛阳。瓦岗军和几十万隋军展开了激战。洛阳战役历时三个月，经过六十余次战斗，打得王世充全军溃败，所剩不过数千。瓦岗军围困东都，控制了河南大部分地区。
就在瓦岗军即将取得胜利之时，内部却发生了争乱。翟让手下部将对李密不满，劝翟让夺李密之权，李密得知后，遂萌生除掉翟让之心。这年十一月，李密以赐宴为名，诱杀了翟让等重要农民将领。此举使得瓦岗军人心瓦解，极大地削弱了起义军的力量，最终导致了瓦岗军的失败。武德元年（618），王世充击败李密，李密被迫投降唐高祖李渊，后因疑心李渊杀他，遂起兵反唐，兵败被杀。李密虽然断送了这支农民起义军，但是瓦岗军的许多文臣武将都投降了唐，成为推翻隋朝、建立唐朝的主力军。
杜伏威为人聪慧、勇敢，有奇策。他与挚友辅公祏（shí）领导的江淮起义军是南方一支重要的反隋力量。大业九年（613），杜伏威、辅公祏在山东齐郡组织起义，随后率军南下，到淮河以南广大地区发展力量。杜伏威汇集了其他义军，力量不断壮大。大业十二年（616）七月，起义军进逼江都（今江苏扬州），隋将陈稜（léng）率兵救援，与江淮起义军遭遇。陈稜因惧怕起义军不敢交战，杜伏威遂送去一套妇人衣服，称他为“陈姥”，以激怒敌军。陈稜果然中计，恼羞成怒带兵出战。杜伏威率兵强攻隋军，战斗中被敌箭射中前额。他带箭冲入敌阵，杀得隋军人仰马翻，大获全胜。此后，起义军攻下高邮（今江苏高邮北）、历阳（今安徽和县），建立革命政权，杜伏威任总管，辅公祏任长史。隋炀帝在江都被杀后，唐高祖武德四年（621）唐秦王李世民讨伐王世充，遗使招安于他。转年七月，杜伏威分析了天下的局势后，投降了唐朝，官居太子太保。辅公祏后因起兵反唐，兵败被杀。
隋末农民起义沉重地打击了隋王朝的统治，最终导致了隋朝的灭亡。
好头颈，谁当斫之
大业十二年（616）四月，隋炀帝在三次征伐高丽失败后，心情十分压抑。再加上洛阳以北地区义军四起，弄得隋炀帝整日心神不安，此时此刻，江都的美景又浮现在他的眼前。他不顾大臣们的劝阻，第三次踏上了前往江都之路。
隋炀帝离开洛阳，躲入了江都这个温柔乡。但天下的形势却不会因为隋炀帝的不闻不问而安定。此时，不仅河北地区义军迭起，江淮义军也直逼江都。同时，李渊等勋贵大臣也趁机起兵，攻占了都城长安，并迎立杨广的孙子十三岁的杨侑（yòu）为皇帝，遥尊杨广为太上皇。
身在江都的隋炀帝整日陶醉于美女烈酒之中，他命令江都通守王世充在江淮地区挑选美女送到宫中，终日与嫔妃们饮酒作乐，荒淫日甚。在内心深处，隋炀帝也预料到天下纷乱无法收拾，他早已无心北归，只希望能在这种醉生梦死中度过余年。然而，靠这样过日子毕竟是掩耳盗铃，农民起义此起彼伏，豪强起兵愈演愈烈，隋炀帝怎么会不知道，对于自己的命运，其实他十分清醒。一天，他边照镜子，边对萧皇后说：“好头颈，谁当斫之？”意思是说，这样一颗漂亮的脑袋、会是谁来砍它呢？皇后闻言大惊，问他为什么会忽然说出这样的话。炀帝苦笑着说：“贵贱苦乐，都是互相更迭的，就算有那么一天，也无所谓的。”他还预备了毒药带在身边，准备在危急时服用。
朝中有个叫宇文述的，很善于察言观色，迎合拍马。在跟随出巡时，经常用奇珍异宝讨炀帝的欢心，这样，自己的官位、富贵也就安枕无忧了。宇文述有两个儿子，宇文化及和宇文智及。这两个人都是狂妄不法之徒，他们见天下大乱，群雄四起，便与禁卫军首领司马德戡密议废掉隋炀帝。
杨广像由于江都周围已经动荡不已，粮食渐渐吃完，从行的禁卫军多是关中人，因久住他乡，人人思归，而隋炀帝又有意迁都丹阳（今江苏南京），更是绝了士兵的还家之望，这样不时有兵将逃亡，斩杀多人也止不住。于是司马德戡等人便借机散布谣言，说炀帝准备用毒酒尽杀关中人，只留南人在身边。禁卫军闻之大为惊骇，互相转告。司马德戡趁机召集众人，兵士惊惧惶恐之下都愿听从号令。
大业十四年（618）三月十目的晚上，司马德戡率禁卫军数万人发动兵变。睡梦中的炀帝惊觉有变，慌忙召集卫士、却无一人应答，他只好脱下黄袍换上一般官服逃入西阁。结果还是被一个美人出卖，校尉令狐行达拔刀直入，炀帝隔着窗子问：“你想杀我吗？”行达说：“臣不敢，只是将士思归，我是来请您和我们一起回长安的。”炀帝这才战战兢兢地走出了西阁。兵士逼迫炀帝乘马入朝堂慰劳百官，兵士挟刃牵缰而出。反叛兵士见到皇帝已在掌握之中，立时欢呼雀跃。原本胆战心惊的宇文化及见此场面，顿时精神振奋，提高嗓门说道：“你们让他出来干什么，杀掉算了！”于是炀帝又被带回了寝殿。
此时的隋炀帝仍然执迷不悟，竟反问道：“我有什么罪，你们要这样对待我？”一个叫马文举的人说：“陛下抛弃宗庙，巡游无度，对外不断征讨，对内极尽奢淫，重用奸臣，远贤拒谏，致使多少壮士死在战场，多少妇孺冻饿而亡，百姓流离，盗贼遍地，怎能说无罪呢？”这时，炀帝十二岁的儿子杨杲（gǎo）吓得大哭，被叛兵一刀杀死。炀帝自知难免一死，便欲服毒自尽。但此时事起仓促，左右四处逃散，炀帝一时间也无法找到毒药。马文举等人又不肯给他毒酒，炀帝想自己去取，却被令狐行达强行按在了椅子上。炀帝只得解下了自己的腰带交给行达，行达随即用腰带勒死了炀帝。萧皇后与宫人拆掉床板，制成棺材，把杨广、杨杲父子两人的尸体埋于西院流珠堂。
隋朝历经两代帝王即宣告灭亡，有趣的是隋文帝杨坚当初夺取的是北周宇文氏的帝位，诸杀了其皇室一族，最后自己的儿子又被宇文氏的人所杀，历史在这里转了一个小圆圈。不过帝位没有再传回去，而是到了李姓那一边，历史由此推进到了唐朝。
隋文帝改制
隋文帝在开始掌握北周政权的时候，就一反周宣帝所为，“大崇惠政，法令清简，躬履节俭，天下悦之”。他做了皇帝以后，更是“勤于为治，每临朝，或至日昃，五品已上，引坐论事，卫士传餐而食”。在这样励精图治的情况下，为了整顿制度，开创规模，存政治、绎济方面采取了许多革新措施，以巩固和发展新建立的隋政权。
首先改革行政制度，以加强朝廷的权力。隋文帝即位之初就废除了北周时代从《周官》抄袭来的那一套古老的制度，命苏威等综合汉魏以来历朝的官制，制定新的制度。在朝廷分设尚书、门下、内史、秘书、内侍五省，御史、都水二台，太常、光渌、宗正、太仆、大理、鸿胪、司农、太府、国子、将作十一寺，左右卫、左右领军等十二府。朝廷的五省中，秘书省职掌较闲，内侍省全是宦官，并不重要。政权所寄，全在尚书、门下、内史三省。尚书省事无不总领，是一个执行各种政令的机构。置尚书令一人，左右仆射各一人，统领吏、礼、兵、都官（后改刑部）、度支（后改民部）、工六部。六部各设尚书一人，分统三十六侍郞，执行部务。门下省置纳言二人。内史省置内史令二人。三省长官共同定令立法，参决军国大政，担任宰相的职务。三省六部制度便从此确立起来了。
在地方，隋初沿袭前代的州、郡、县三级制。但当时南北各地均置侨州、郡、县，“或地无百里，数县并置：或户不满千、二郡分领”，因而造成“民少官多，十羊九牧”的情形。开皇三年隋文帝根据杨尚希等的建议，废除郡级机构，并省州县，裁减冗官。不仅节省了国家开支，而且提高了行政效率。对于地方各级官吏，统由尚书省的吏部负责选任，所谓“大小之官，悉由吏部”。这样就使“执政参吏部之职，吏部总州郡之权”，加强了朝廷对地方的控制。
在整顿吏治方面，隋文帝“妙简良能，出为牧宰”。擢“仁明著称”的广汉太守柳俭为蓬州刺史，以“奉国尽心”的驾部侍郎辛公义为岷州刺史，擢“治术尤异”的临颍令刘旷为莒州剌史，“清名善政，为天下第一”。任“达于从政”的房恭懿为新丰令，“政为三辅之最”。文帝还经常遣使考察地方官吏，褒奖良能，惩处贪污。治书侍御史柳彧巡省河北五十二州，奏免贪污不称职的长吏二百余人。厍狄士文为贝州刺史，对官吏尺布升粟之赃，无所宽贷，检举了一千多人、隋文帝都把他们发配到岭南去了。文帝又以“典吏久居其职，肆情为奸”，下令“诸州县佐史（《高祖纪》作‘吏’）三年一代，继任者不得重居之”。这些措施对澄清吏治，减轻人民痛苦，起了一定的作用。
开皇初年、隋文帝力矫北周末年“用法深重”、“诛杀无度”的弊政，命高颎、郑译、杨素、裴政等修订刑律。裴政为主要修订人，上采魏晋旧律，下及齐、梁，讨论折衷，制定新律。废除了前代的枭首、轘裂及鞭刑，还废除了大棒、束杖、车辐、鞵底、压踝、杖桄等讯囚酷法。民有枉屈，县若不理，可以逐级上诉至朝廷，凡属死罪，都应上报朝廷，“三奏而后决”，以昭慎重。开皇三年，隋文帝根据刑部的奏报，认为犯罪人数还很多，乃囚刑律太严。命苏威、牛弘等再定新律，删去死罪八十一条、流罪一百五十四条、徙杖等罪一千多条，从此“刑网简要，疏而不失”。当然，隋律的职能仍旧是镇压劳动人民，而且相当残酷；但它终究废除了前代许多“苛惨之法”，而且标榜“以轻代重，化死为生”的立法原则，在中国法律史上是一个很大的进步。
魏、周以来的府兵制度，隋文帝也作了重要的改革。因为“府兵制初建立时，在主观上是要以军民分治的形式维持种族予盾，以部曲制度的形式维持部落组织”，所以起初兵士都是鲜卑人，“自相督率，不编户贯”。随着历史的发展，这一制度也就逐渐发生变化。北周武帝时，“改军士为侍官，募百姓充之，除其县籍，是后夏人半为兵矣”。开始打破了兵制上的民族界限，但仍然“兵农各籍”。开皇十年，隋文帝下令：“凡是军人，可悉属州县，垦田籍账，一与民同；军府统领，宜依旧式。”于是府兵“始一寓之于农”。这不仅使府兵制的民族意义完全消失，并使大批的劳动力投入生产，对生产的发展起了积极的作用。