更始元年10月，更始帝刘玄令刘秀以破虏将军行大司马事持节北渡，镇慰河北诸州郡。此举遭到众大臣们反对。但刘玄不顾诸将阻挠，坚持派刘秀持节渡河镇抚河北。他主要出于两方面考虑：一是怕刘秀功高盖主，威胁自己皇位，将其支走，再说此时他因为猜忌和嫉妒刘秀之兄刘縯，已把对方杀掉，也担心刘秀报仇；二是刘秀巡狩河北，正所谓一石二鸟、一箭双雕，可以用他打击河北的各路起义军和地方势力，同时削弱自身。无论刘秀成败，刘玄最后都可以坐收渔翁之利。
其实，刘玄和刘秀都知道当时河北地区形势严峻，那里光是不相统属的起义军就有铜马、青犊、五幡、五校、五楼、尤来、大枪、耘乡、大肜、高湖、重连、富平、获索等数十支，众达几百万人。不过刘秀到河北后，利用绿林军声威，打著汉宗室旗帜，到处宣传除王莽苛政，复汉官名，并罢免污吏，宽释囚徒，招集人才，争取民心，很有效果。其谋士邓禹也劝他延揽英雄，务悦民心，“立高祖之业”。刘秀深以为然，“与定计议”。这些措施博得了相当一部分河北人士的好感，受到一些地方实力派的支持。信都（今河北冀县）太守任光首先表示支持他，刘秀遂以此为基地，征发附近各县壮丁，得精兵4千。接着，新莽和成（今河北晋县南）卒正（即太守）邳彤举城归附刘秀；昌城（今河北冀县西北）人刘植、宋子（今河北赵县东北）人耿纯也各率宗亲子弟数千人，以其所据县邑投靠刘秀。很快刘秀就聚集了1万余众。而且，在来河北之前，他还以寇恂为河内太守，防止其他部队渡河蹑其后尾；兹后寇恂“伐淇园之竹，为矢百余万”，成为刘家大军中的一支劲旅。他还招揽了一些有才能的地主知识分子，如邓禹（公元2—公元58）、冯异（？—公元34）等。为扩大声势，刘秀又假借当地起义军头目子路和刁子都（一作力子都、刀子都）的名义，四处招集人马。
这年12月，故赵缪王子刘林以卜者王郎诈为汉成帝子，立为王，都邯郸（今属河北），河北诸郡国多降附，势力雄厚。更始二年（公元24）2月，刘秀势力逐渐壮大，发兵进攻王郎。王郎派大将李育驻守柏人，刘秀军先头部队由前部偏将朱浮、邓禹率领；因二将未探明敌情，贸然进军，被李育击败，武器粮食等物品全部丢失。刘秀率主力在后，知道他俩战场失利，马上收其散卒，再与李育交战，大破敌军，将失去的辎重全部夺回。此战后，李育退守柏人城。刘秀攻之不下，遂引兵转而攻打广阿。这时上谷（今河北怀来东南）太守耿况、渔阳（今北京密云西南）太守彭宠各遣其将吴汉、寇恂等率领突骑，前来协助刘秀进攻王郎。同时刘玄也遣尚书仆射谢躬领军前来河北支援。刘秀兵力大增，遂东围钜鹿。王郎部将王饶坚守钜鹿，刘秀军攻打月余不能下。接着王郎又遣倪宏、刘举率数万兵来救钜鹿，但被刘秀军击败，战死数千人。4月，刘秀指挥大军进围邯郸，5月邯郸城被攻破，王郎被杀，从此刘秀在河北站稳了脚跟。
刘秀攻灭王郎后，刘玄恐其势大难制，派人赴河北封他为萧王，令其罢兵回长安；同时撤消耿况、彭宠等人的职务，任命韦顺为上谷太守、蔡充为渔阳太守、苗曾为幽州牧；并令谢躬率军屯驻邯郸，控制刘秀。刘秀接受耿弇建议，以河北未定为由，拒绝刘玄的命令，从此与更始政权之间出现裂痕。同时，刘秀在耿弇协助下，积极采取各个击破之策，向河北地区各支起义军发动进攻。首先，派遣大将吴汉调发幽州、冀州十郡兵，在这年秋天大破铜马军。青犊、高湖军、重连军来援，亦为所败，余部被迫归附刘秀。刘秀收编铜马等起义军后，势力大增，众至数十万，故当时人以“铜马帝”称之。建武元年（公元25）正月，刘秀又率大军攻歼尤来、大抢、五幡诸路农民军。于是，河北地区义军主力被刘秀消灭殆尽，燕赵大地尽归其所有。
刘秀能统率驾驭很多不容易领导的人物，而都能补短截长，互相牵制，除了他的宗室身份，“谨厚”的声名和天命的心理准备外，他具有领导能力的天才不能否定；同时他对大小事宜都亲身督察经营，毫不松懈。他也“常在局势艰危的关头，甘冒生命危险亲临前线”（黄仁宇语）。有人说他平生“见小敌怯，见大敌勇”。我们也可想象，大敌已在他的预料之中，若不规避，一定是准备好决一雌雄，所以能临危不惧（所谓“战略上藐视”）；反而是小敌会出其不意地出现，需要警惕，否则处置不当，可以牵一发而动全身（所谓“战术上重视”）。如此看来，刘秀不仅有军事头脑，而且有当统帅的才干。
最初刘縯、刘秀兄弟起兵舂陵时，便早有帝制自为之心，因而与刘玄之间存在着争夺帝位的矛盾。其后刘縯被杀，刘秀虽满腔悲愤，但因势力孤单，只得隐忍不发，缪为恭顺，既不哭泣服丧，又反亲见刘玄表示并无芥蒂，心里却同时已确定“立高祖之业”的宏愿，说明一位优秀的政治家善于忍耐，而且目光远大。当他行到鄗（今河北柏乡北），有点忍不住了，便把冯异召来，借口“问四方动静”，有意启发他说：“吾昨夜梦乘赤龙上天，觉悟，心中动悸。”冯异心领神会，马上拜贺：“此天命发于精神，心中动悸，大王重慎之性也。”冯异与诸将定议上尊号。事有凑巧，就在这时，刘秀年轻时的同学、儒生强华从关中来，奉上“神圣”的《赤伏符》。符文曰：“刘秀发兵捕不遭，四夷云集龙斗野，四七之际火为主。”据说，“四七”表示从汉高祖到刘秀正好是280年，火为汉德，是刘邦受命于天的根据；现在历史循环到刘秀，他复兴汉室正是天意。同时群僚属也复奏曰：“受命之符，人应为大，万里合信，不议同情，周之白鱼，曷足比焉？今上无天子，海内淆乱，符瑞之应，昭然著闻，宜答天神，以塞群望。”既有“诸将固请”又有“赤符天命”，于是，一切都是合理合法的了，登上帝位的时机也成熟了。
更始三年（公元25）5月已未，刘秀正式即皇帝位于鄗南，改元“建武”，是为历史上的汉光武帝，东汉王朝的开创人。他的即位祝文同样理由充分，冠冕堂皇：“王莽篡位，秀发愤兴兵，破王寻、王邑于昆阳，诛王郎、铜马于河北，平定天下，海内蒙愚。上当天地之心，下为元元所归。谶记曰：‘刘秀发兵捕不道，卯金修德为天子’。秀犹固辞，至于再，至于三。群下佥曰：‘呈天大命，不可稽留’，敢不敬承。”总之，他是天命眷顾，民心所归，是地地道道的真命天子。建武元年（公元25）7月，光武帝拜邓禹为大司徒、王粱为大司空、吴汉为大司马；又拜了5个将军：景丹为骠骑大将军，耿弇为建威大将军，盖延为虎牙大将军，朱枯为建义大将军，牡茂为大将军。东汉政权正式建立起来了。
(第四节）定都洛阳，天下一统
汉光武帝刘秀即位后一个月（即建武元年7月），便把军事目标指向洛阳，这是十分关键的一着。河内逼近洛阳，行军路线短捷；河北悉平，军事力量集中；洛阳势孤，攻克指日可待。倘能夺取洛阳，赤眉军将无向东发展余地，其军心必然沮丧。同时，坐镇洛阳，还利于西窥关中，南取江汉，东逼徐、扬、兖、青，这无疑将占有统一天下的战略要地。光武帝正是吸取了更始政权的教训（即放弃洛阳入主关中）。清代人王夫之说过：“更始之失，光武之资也”，就是指的这一情况。
当月，光武帝派大司马吴汉率领朱枯、王梁、岑彭、冯异、万脩、贾复、刘植、坚镡、侯进、祭遵、王霸等11名主要将领共同进攻洛阳，可谓全力以赴。围攻数月，更始将领朱鲔坚守不下。久攻不取，刘秀打算采用招降之法，并想到了岑彭。岑彭原为王莽政权县吏，曾坚守宛城，到城中粮尽才投降更始政权。为此绿林军将领主张杀掉他，后被刘縯救护，故至今对刘秀仍然感恩。刘縯遇害后，他在朱鲔手下任校尉，立有战功，被推荐为淮阳都尉。既然岑彭对自己忠心耿耿，又和朱鲔有过交情，派他去最是适合。他带着刘秀的话“夫建大事者，不计小怨。鲔今若降，官爵可保，况诛罚乎？河水在此，吾不食言”去劝说朱鲔。朱鲔接受意见，和岑彭一起去见刘秀。刘秀亲自下座“解其缚”，并慰抚一番，很快让岑彭当夜送他回城。第二天，朱鲔带领全城兵众一起归降。就这样刘秀轻易夺下了洛阳，不仅减少了兵祸之苦，又收笼了人心。刘秀即拜朱鲔为平狄将军，封扶沟侯。这年10月，光武帝正式定都洛阳，史称东汉。
建立东汉、确定洛阳后，光武帝下一步就是如何消灭各种敌对势力，重新统一中国了。首先自然是绿林军及其后来的更始政权。公元24年更始帝刘玄自入主长安后，大封宗室，又沉湎酒色，昏庸无能，一切委政奸贼赵萌，以至众叛亲离，矛盾激化；又诛杀申屠建、陈牧、成丹等诸多功臣，引起内部分裂，络绎离去。公元25年，赤眉军与绿林军王匡、张卬等联合攻入长安，更始帝先出逃，后请降，不久被杀。更始政权彻底瓦解，绿林起义宣告失败。
光武帝的第二步是如何对付赤眉军。当初更始政权刚建立时，虽然也曾封赤眉军首领樊崇为列侯，但刘玄鼠目寸光，缺乏度量，不知收买人心，对樊崇及其赤眉军很是歧视、冷漠。樊崇老大不快，乃于公元24年分兵两路进攻已入主长安的刘玄。次年会师于弘农（今河南灵宝北），不断取胜，又善于扩充兵马，队伍激增至30万人，分为30营。不久他们便在郑（今陕西华县）立年仅15岁的牧牛童刘盆子（据传也是汉代宗室）为帝，年号建世。旋与绿林军联合攻入长安，消灭更始政权。但关中豪强地主都隐匿粮食，坚壁顽抗，令其无计可施。建世二年（公元26）赤眉军粮尽无援，被迫退出长安，此年在崤底（今河南洛宁西北）、新安（今河南渑池东）被刘秀派冯异击败，刘盆子、樊崇等在宜阳（今属河南）投降，赤眉起义亦宣告失败。
此后，光武帝进一步削平各地割据者，统一大业进入新阶段。他必须与地主阶级内部各个政治集团、各派割据势力展开激烈的争夺。当时张步割据山东青州，刘永割据梁地，李宪割据庐江（今安徽合肥），秦丰割据南郡（今湖北江陵），还有自保河西五郡的窦融、称雄于天水的隗嚣、称帝于巴蜀益州的公孙述，以及与匈奴勾结的卢芳等各派政治势力。在群雄当中，对刘秀威胁最大的是刘永。当时刘永雄据今豫东、皖北，与青州张步、苏北董宪、庐江李宪连成一个颇大的军事同盟，因而他实际上拥有鲁西、苏北、皖北、豫东广大的土地，专制东方，成为刘秀的劲敌。况且，刘永是梁孝王八世孙，曾诏封梁王，在宗法中的地位比刘秀有利，因此对刘秀威胁最大，首先就要翦灭他。从建武二年（公元26）夏开始，刘秀派军进攻刘永及其部下；到建武六年2月，刘永的势力完全肃清，历时近4年。
与此同时，光武帝又遣别将南征秦丰于黎丘（今湖北宜城北），征延岑于武当（今湖北均县西北），征田戎于津倻（今湖北沙市）。秦丰被俘；延岑、田戎皆亡入蜀，投奔公孙述。割据渔阳的彭宠为其苍头奴所杀，并投降刘秀。于是北自幽燕，南至荆襄，皆次第平定。但当时西南与西北尚为众雄所割据，其中势力最大者为公孙述，据有益州之地，即今川、贵、云大部分地区，地势险阻，资源丰富。其次为隗嚣，据有安定、陇西、天水、武都诸郡，即据有今甘肃东南地区，粮草充足，士马强壮，进可闯入关陕，退可自保边陲。又次为卢芳，据有晋、陕北部和内蒙一带。因而从建武五年（公元29）开始，刘秀逐个平定上述诸割据势力。首先，拉拢窦融归附东汉皇朝，任凉州牧。窦融归附后，刘秀准备用武力进攻隗嚣。大战数年，建武九年（公元33）正月隗嚣病死，其将立其子隗纯为王。汉军乘机发动军事进攻，窦融率军配合夹击，十年10月大破隗纯于落门（今甘肃甘谷西），隗纯投降，陇右平定。所谓成语“得陇望蜀”之典，至此东汉对割据巴蜀的公孙述已形成南北夹击的钳制攻势。刘秀发两路大军攻蜀：一路自北南下入蜀，一路溯长江而上。从建武十一年（公元35）春开始到建武十二年（公元36）11月，公孙述自将数万人攻吴汉。吴汉部下数万击之，述兵大乱，并大“屠成都”（《后汉书·光武帝纪》）。乱阵中公孙述被刺中胸部，当夜身亡。次日，其部下延岑以成都投降，巴蜀平定上报。最后剩下一个卢芳，因有匈奴援助，刘秀屡次派遣吴汉、杜茂攻打之，均难克下。至建武十二年（公元36）平定巴蜀，卢芳知刘秀已统一中国，孤立不能相敌，乃逃亡匈奴。至此全国统一的局面基本实现；此时距光武称帝已有11年了——也就是说，他再度统一中国至少花了11年时间！
善于识人的光武帝，将运筹帷幄的邓禹比喻成张良，将秉公执法、长期镇守后方的寇恂比喻成萧何，将性格刚毅、文武双全的贾复比喻成曹参，将忠勇无敌与杀罚果断的吴汉比喻成周勃；而在他心中，功高盖主的战神将军韩信的位子，自非耿弇莫属了。