南北朝后期，北周的相国杨坚自立为皇帝，建立了隋王朝，杨坚即是隋文帝。隋文帝胸怀大志，决心一统天下，但在当时，隋文帝力量单薄，而北方的突厥人不时南侵，隋文帝便制定了先灭突厥、后灭陈国的战略方针。
隋文帝在与突厥交战期间，对南方的陈国采取了十分“友好”的策略：每次抓获陈国的间谍，不但不杀，反要以礼相送还；即使是有人要投靠隋文帝，只要他是陈国人，隋文帝从隋、陈“友好”出发，仍毅然加以拒绝。为增加国家实力，隋文帝大胆实行改革，简化了政府机构，鼓励农耕，提倡习武。
在击溃了突厥之后，隋文帝开始着手灭陈的行动。江南收获的时间较早，每到收获季节，隋文帝就派人大造进攻陈国的舆论，令陈国紧急调征人马，以至误了农时。江南的粮仓多用竹木搭成，隋文帝派遣间谍潜入陈国，因风纵火，屡屡烧毁陈国的粮仓。经过几年的折腾之后，陈国的物力、财力都遭受到不小的损失，国力日益衰弱。
为了渡江作战，隋文帝派杨素为水军总管，日夜操练水军。杨素建造的战船，最大的叫“五牙”，可乘800人；小的叫“黄龙”，也可乘100余人。为了迷惑陈军，屯兵大江前沿的隋军每次换防时都要大张旗鼓，令陈军恐惧不已，以为隋军是要渡江作战。渡江前夕，隋军又派出大批间谍进行骚扰、破坏，搅得陈国军民不得安宁。
但是，面对磨刀霍霍的隋军，陈国国君陈后主竟然麻木不仁，依旧是醉生梦死。太市令章华冒死进谏，陈后主将章华斩首示众。公元588年10月，隋文帝认为条件已经成熟，指挥水陆军51．8万人，从长江上、中、下游分八路攻陈，当元帅杨素的“黄龙”战船在破晓时抵达长江南岸时，陈国守军还都在睡梦之中。隋军除在岐亭（西陵峡口）遭到陈国南康内使占仲肃在江中以三条巨型铁索的阻截外，一路上攻无不克，战无不胜。第二年的正月20日，隋军攻入陈都建康，陈后主仓皇躲入枯井之中，后被隋兵搜出，陈国灭亡。至此，隋统一了中国长达近200年的“南北朝”——中国社会长期分裂的局面终于结束了。