公元200年，曹操统一了北方，占据了八州的地盘，形成了独占中原的格局。接着他又挥师平定辽东地区的乌桓势力，基本稳定了后方地区，一时间成为当时历史舞台上不可一世的风云人物。然而，对于素怀雄心大志的曹操来说，统一北方地区，只能算作是统一天下的第一步而已。他的宏伟目标，是扫平所有的割据势力，重新统一天下。于是他便积极从事南征的战争准备。一切就绪后，曹操紧擂战鼓，兴起大军，浩浩荡荡向南方地区杀奔而来。
当时，南方的主要割据势力有两个，一个是立国三世的东吴孙权政权，他据有扬州六郡。这些地方土地肥沃、物产丰富，在当时战乱较少。而北方人的南迁又给当地带来了先进的生产技术，因此东吴的经济有了长足的进步。在军事上，孙权拥有精兵数万，有周瑜、程普、黄盖等著名将领，内部团结，加上据有长江天险，因而使它成为曹操吞并天下的主要障碍。
另一个是荆州的刘表。他基本上采取了维持现状的政策。但他年老多病，处事懦弱，其子刘琦和刘琮又因争夺继承权而闹得不可开交，所以政权并不稳固。至于刘备，在当时还没有自己固定的地盘。他原来依附袁绍，官渡之战后投奔刘表。刘表让他屯兵新野、樊城一带，为自己据守阻止曹军南下的门户。但刘备号称枭雄，志在复兴汉室，所以就趁着这一机会扩充军队、网罗人才。他这时拥有诸葛亮、关羽、张飞、赵云等谋士、猛将，是曹操吞并天下的又一重要障碍。
公元208年七月，曹操率军南下，他的第一个战略目标是荆州。荆州历来为兵家必争之地，如占据了它，既能够控制今湖北、湖南地区，又可以顺江东下，从侧面打击东吴，向西进军则可以夺取富饶的益州(今四川)。就在战争一触即发的紧要关头，刘表于八月因病一命呜呼了。接替他的次子刘琮更不争气，他让曹操的兵威吓破了胆，未作任何抵抗，就将荆州拱手献出。曹操兵不血刃，完成了南下战略的第一步，于是曹操率领号称80万的大军，自江陵(今湖北江陵)沿江东下直逼夏口(今湖北武昌)。刘备与刘表的长子刘琦一道率领大约2万左右的士兵，防守夏口，因为兵力悬殊，就派诸葛亮到江东去联合孙权，共同抗曹。
当时曹军中多是北方人，善于陆战，不善水战，又是远道而来、疲惫不堪、水土不服，生病的士兵很多。战斗力大大减弱，而曹操军队中，只有荆州降将会打水仗，但是东吴大都督周瑜使用反间计使曹操以为他们要造反，杀了他们，这样曹操手下就没有善于带水兵的将领了。
曹操的士兵，不习水性，长江的风浪把他们颠簸得口吐黄水，苦不堪言，东吴派谋士庞统向曹操献“连环计”，让曹操把战船都连成一片，上面铺木板，使各船的士兵、战马可以互相走动、如同平地，曹操非常高兴，没有识破这计谋。
周瑜的部将黄盖针对敌强我弱、不宜持久及曹军士气低落、战船连接的实际情况，建议采取火攻，奇袭曹军战船。周瑜采纳了这一建议，制定了“以火佐攻”，因乱而击之的作战方略。并由黄盖假装投降曹操，麻痹曹军。
接着，周瑜让黄盖写信向曹操约定了投降的时间。曹操不知是计，欣然同意。黄盖率船数十艘，满载干草，灌以油脂，并巧加伪装，插上旌旗，同时预备快船系挂在大船之后，以便放火后换乘，然后扬帆出发。当时，江上天气反常，正猛刮东南风，战船航速很快，迅速向曹军阵地接近。曹军望见江上船来，都以为是黄盖如约前来投降，纷纷挤到船头看热闹，丝毫不加戒备。
黄盖在距曹军1公里处，下令各船同时点火。一时间火光冲天，船箭一般地直冲曹军战船。而曹军船只首尾相连，分散不开，移动不得，顿时便成了一片火海。这时，风还是一个劲地猛刮，熊熊大火很快向岸上蔓延，一直烧到了岸上的曹军营寨。曹军将士被这突如其来的大火烧得惊慌失措、鬼哭狼嚎、溃不成军，烧死、溺死者不计其数。在长江南岸的孙、刘主力舰队乘机擂鼓前进，横渡长江，大败曹军。
曹操狼狈不堪，被迫率军由陆路经华容道向江陵方向仓皇撤退，又遇上大暴雨，道路泥泞不堪，以草垫路，才使得骑兵得以通过。一路上，人马自相践踏，死伤累累。孙、刘联军乘胜水陆并进，穷追猛打，扩大战果，一直追击到南郡(今湖北江陵境内)。曹操留曹仁、徐晃驻守江陵，乐进驻守襄阳，自己率领残兵败将逃回到北方。
这场赤壁大战至此以孙权、刘备方面大获全胜而宣告结束。
诱韩遂胜马超
此时汉中马超与韩遂、杨秋、李堪、成宜等人反叛。曹操派曹仁去讨伐他们。马超等人驻扎在潼关，曹操命令各将领：“关西士兵精锐强悍，要坚守壁垒不要跟他们交战。”秋季七月，曹操西征，与马超等人的部队夹着潼关驻军。曹操紧紧地牵制敌军，而暗中派徐晃、朱灵等人乘夜渡过蒲阪津，占据黄河西岸扎营。曹操从潼关北面渡河，还未渡过去，马超追赶渡船急忙攻打。校尉丁斐因而放出牛马来引诱敌人，敌人骚乱去抢夺牛马，曹操才得以渡过河去，沿着黄河修筑通道而向南推进。敌人撤退，在渭口进行抵抗，曹操于是在许多地方设置疑兵，暗中用船载着士兵进入渭水，架设浮桥，夜里，分兵在渭水南岸扎营。敌人乘夜攻打军营，伏兵打败了他们。马超等人驻守在渭水南岸，派遣信使请求割让黄河以西地区讲和，曹操不答应。九月，进军渡过渭水。马超等人频繁挑战，又不应战，坚决请求曹操割地，送儿子来做人质。曹操采用贾诩的计策，假意答应他。韩遂请求跟曹操相见，曹操跟韩遂的父亲是同年孝廉。又跟韩遂是同辈人，于是两人马靠着马交谈了好一阵子，但不涉及军事，只谈京都老朋友之间的旧事，拍手欢笑。会见完毕，马超等人询问韩遂：“曹操说了些什么？”韩遂说：“没有说什么啊。”马超等人对他起了疑心。另一天，曹操又给韩遂写信，有多处修改涂抹，好像是韩遂改定的样子，马超等人更加怀疑韩遂。曹操就与马超等人约定日期会战，先用轻装的士兵挑战，交战了很久，才出动勇猛如虎的骑兵夹攻，大败敌军，斩了成宜、李堪等人。韩遂、马超等人逃跑到凉州，杨秋逃到了安定，关中平定。各将领中有人问曹操道：“当初，敌军把守潼关，渭水北岸沿途空虚，不从河东攻打冯翊却驻守潼关。拖延一段日子而后北渡黄河，为什么呢？”曹操说：“敌军把守潼关，如果我军进入河东，敌人必定去防守各个渡口，那么就无法渡过西河去，我故意把大军开向潼关；敌军全部人马在南面防守，西河的防备就空虚，所以徐晃、朱灵二位将领能够专力夺取西河；然后率军北渡黄河，敌人不能跟我们争夺西河，是因为有徐晃、朱灵二位将军的军队啊。连接车辆树立栅栏，修筑通道向南推进，既是作不可战胜的准备，又把兵力薄弱显示出来。渡过渭水修建坚固的营垒，敌人前来也不出去应战，是以此来助长敌人的傲气啊；所以敌人修筑营垒而请求割让土地。我顺从他们的请求答应了他们。顺从他们的心意的原因，是使他们安心而不作准备，我们乘机积蓄士兵的力量，一旦攻击他们，就如同所说的疾雷不及掩耳的了，况且军事上的变化，本来就不是只有一种方法啊。”起初，敌人每有一支部队到达，曹操就露出高兴的脸色。敌人被打败之后，将领们询问其中的原故。曹操答道：“关中地区辽阔，如果敌人各自据守险要的地方，没有一、二年是不能平定的。如今敌军都前来集中，他们人数虽多，却互不统属，军队里没有统一的主帅，一战便可以消灭掉，取得胜利比较容易，我因此高兴。”
公元220年，曹操在洛阳逝世，享年66岁。遗令道：“天下尚未安定，葬礼不得遵循古代的礼制。安葬完毕，都要脱掉丧服。那些率兵驻守卫戍的将领，都不得离开驻守部队。有关的官员各尽职责。入殓时用平时的服装，不要埋藏金玉珍宝。”曹操逝世后，谥号为武王。二月丁卯日：安葬在高陵。