为了寻求自保，涿郡各地纷纷建立起了由地方豪强、村民、流民等为主体的地方武装。此时，年轻的刘备抓住这个机遇，跟随校尉邹靖一起参与了征讨叛军的战斗，并从此登上了汉末的政治舞台。在历任安喜县尉、下密县丞、高唐尉、高唐令等低级官职之后，刘备于初平二年（公元191年）左右投靠了自己的同窗、当时中国北方地区最大的割据势力——公孙瓒集团并被任命为平原相，在这期间刘备因为礼贤下士、关爱百姓、治理有方而声名鹊起，使得不少人对他刮目相看，并逐渐成为各大割据势力极力拉拢的对象。
兴平元年（公元194年），就在诸葛亮一家为曹操血洗徐州而提心吊胆之时，刘备奉公孙瓒之命进入徐州援助陶谦，尽管其军事实力不是曹操集团的对手，却给陶谦留下了很好的印象。后来陶谦推荐刘备担任豫州牧，还在去世之时遗命将徐州拱手相让。尽管刘备在中原地区有着良好的民望，但其孱弱的军事实力却在汉末战火纷飞的硝烟中多次铩羽，先是被袁术、吕布联手赶出了徐州，之后又在吕布的追杀下不得不投靠了曹操。后来刘备又利用曹操与袁绍展开官渡决战的有利时机，重夺徐州并举起抗曹的大旗，但在曹操强大军力的打击下节节败退，只能依附袁绍集团。尽管后来刘备趁曹操后方兵力空虚之际夺取了汝南等地，但立足未稳又被曹操击败。走投无路之际，刘备只能于建安六年（公元201年）南下荆州投靠刘表。在闯荡中原的十七年时间里，尽管刘备屡战屡败、无法立足，但也不是一无所获。他不但树立了自己的政治形象，建立了巨大的政治声望，并通过在平原、豫州、徐州等地的出色表现，成为很多人心目中礼贤下士、关爱百姓的仁德之主。同时，刘备建立起了属于自己的政治、军事集团的主要班底。这个班底主要以武勇见长，关羽、张飞、赵云是其中的主要成员。
对于刘备的到来，刘表是欢迎的，还给刘备提供了部分兵力，镇守荆州的北大门——新野，允许刘备作为一个相对独立的军事实体在荆州生存。起初刘备对刘表临危扶持还是非常感激的，表现也是非常卖力。
建安七年（公元202年）刘备还在博望打了一个漂亮仗，既为自己的生存也为荆州的稳定立了一大功。与此同时，刘备还利用刘表的犹豫不决，迅速在荆州地区招兵买马，积极壮大自己的力量。刘备不但与荆州六大豪族中的庞、黄、马等家族都建立了密切的联系，同时与很多在野的荆州士人建立了良好的关系。在刘备巨大政治声望的感召下，不少荆州士人纷纷加入刘备阵营或积极向刘备推荐人才，诸葛亮的好友徐庶也就在这个时候投奔刘备帐下。在司马徽及徐庶的大力推荐下，诸葛亮终于成为刘备极力争取的对象，于是就发生了历史上非常着名的经典故事——“三顾茅庐”（当然，历史记载中还有一个所谓“毛遂自荐”的版本，说是诸葛亮自己求见刘备的，这个话题限于篇幅不再赘述，欢迎参看拙着《三国，不能戏说的历史·英雄》一书中的相关章节）。
刘备与诸葛亮的交谈内容，后人大都将其称为“隆中对”，其过程如下：
（诸葛）亮答曰：“自董卓以来，豪杰并起，跨州连郡者不可胜数。曹操比于袁绍，则名微而众寡，然操遂能克绍，以弱为强者，非惟天时，抑亦人谋也。今操已拥百万之众，挟天子而令诸侯，此诚不可与争锋。孙权据有江东，已历三世，国险而民附，贤能为之用，此可以为援而不可图也。荆州北据汉、沔，利尽南海，东连吴会，西通巴、蜀，此用武之国，而其主不能守，此殆天所以资将军，将军岂有意乎？益州险塞，沃野千里，天府之土，高祖因之以成帝业。刘璋闇弱，张鲁在北，民殷国富而不知存恤，智能之士思得明君。
将军既帝室之胄，信义着于四海，总揽英雄，思贤如渴，若跨有荆、益，保其岩阻，西和诸戎，南抚夷越，外结好孙权，内修政理；天下有变，则命一上将将荆州之军以向宛、洛，将军身率益州之众出于秦川，百姓孰敢不箪食壶浆以迎将军者乎？诚如是，则霸业可成，汉室可兴矣。”
在“隆中对”中，诸葛亮对汉末天下局势进行了精辟的分析，认为无论是曹操集团还是孙权集团都将继续在汉末政治舞台上扮演重要角色，在这种大势之下，必须采用联吴抗曹的策略才能获得生存和发展的空间，实现鼎足三分的中期目标；为了获得与这两大集团相抗衡的力量，就必须将发展的重点放在荆州和益州，实现“跨有荆益”的近期目标；在夺取荆州和益州地区之后，进一步富国强兵，抓住有利时机兵分两路夺取中原地区，最后实现统一全国、复兴汉室的目的。
尽管诸葛亮在“隆中对”中所提出来的策略只不过是一种战略构想，其中也充满了诸多不确定性，但很显然刘备对于诸葛亮这位年轻人的能力已经有了足够的了解并产生了极大的信任。在刘备的反复劝说下，诸葛亮终于离开了已经隐居十年的隆中，正式成为刘备集团的谋士。是年为建安十二年（公元207年），诸葛亮年仅二十七岁。
诸葛亮加入刘备阵营之后，受到了刘备的极高礼遇，史料中形容两人的关系“情好日密”，不料这引起了刘备集团的两员主要将领——关羽和张飞的不满。这时候刘备向这二位解释，说是自己有了诸葛亮这样的一位谋士，“犹鱼之有水也”，刘备还公开表示，让关、张二人闭嘴。从这个细节中也可以看出刘备对诸葛亮是多么的器重。
不过，此时的诸葛亮并没有什么心思去应付来自关羽和张飞的牢骚，如何迅速壮大刘备集团的力量才是摆在他面前最为重要的工作。因此，在投靠刘备之后不久，诸葛亮便在如何增加收入和扩充兵源上苦心冥想，很快就想出了一个好办法。在诸葛亮的建议下，刘备向刘表提出，对荆州地区的流民进行登记入户。刘备说服刘表说，在册人口多了，税收也011诸葛亮：出师未捷的悲剧英雄就多了，可以为荆州增加财政收入。刘表不假思索便满口答应下来。这么做表面上的结果是刘表的财富增加了，而暗地里刘备却利用这个有利时机暗中将很多流民招募进自己的队伍，一段时间下来，刘备的军队便扩张到了数万人。如此一来刘备集团的主要成员们自然都是满心欢喜，对于诸葛亮能力的怀疑也就随之烟消云散了（当然，这里不得不附带提一句，小说中所描绘的“火烧博望”、“火烧新野”并不是历史的真实，而是杜撰出来的）。
在积极壮大队伍的同时，诸葛亮还利用自己在荆州的亲属关系，秘密为刘备集团寻找政治同盟。诸葛亮的表弟，也就是刘表的长子刘琦，成为诸葛亮极力拉拢的主要对象。
在刘表的三个儿子当中，长子刘琦与次子刘琮是继承人的主要人选。
按照传统的继嗣方式，长子刘琦日后接替刘表成为荆州之主的可能性最大，但是这种情况却因为刘表娶后妻蔡氏而发生了巨大的变化。蔡氏非常喜欢刘琮而厌恶刘琦，后来又将自己的侄女嫁给了刘琮，而蔡氏的弟弟蔡瑁与刘表的外甥张允都经常在刘表面前称赞刘琮，诋毁刘琦。刘琦继承人的地位岌岌可危，随时都有被刘琮、蔡瑁等人暗算的危险。在这种情况下，刘琦不得不找到表哥诸葛亮问计，而这时候的诸葛亮施展出了一箭双雕的计策，不但成功化解了刘琦随时面临的性命之忧，同时也为刘备集团的进一步发展埋下了一个伏笔。这个故事被后人称为“去梯问术”，其过程是这样的：
刘琦感到自己随时都有被蔡瑁、张允等人暗算的危险之后，多次找到诸葛亮并向其请教脱身之计，而诸葛亮却故意推脱。刘琦不得已之下在一次邀请诸葛亮到后园游赏并一同登上高楼饮宴之际，突然命人撤掉了梯子，然后对诸葛亮表示：如今上不着天下不着地，也没有外人打搅，可以达到完全保密的效果，希望诸葛亮告诉自己如何才能脱离目前的险境。此时的诸葛亮只是平静地向刘琦说出了春秋时晋国的太子申生在国中遭到危险，而他弟弟重耳在外流亡却终获平安的典故，刘琦恍然大悟。
不久之后刘琦借着江夏太守黄祖被孙权杀死的机会，向刘表申请并得到同意，出任江夏太守。
单纯从这个故事本身来看，诸葛亮此举的目的仅仅是为了替与自己关系密切的表弟献计脱困，但随后不久诸葛亮的真实意图就显露了出来。
刘琦就任江夏太守之后，刘备手下的头号大将关羽也来到了江夏，并以协助刘琦的名义建立了一支万余人的水军部队。如此一来，刘备集团不但在荆州地区找到了刘琦这样的坚定同盟，同时还进一步壮大了自己的队伍，可谓是一举两得、一箭双雕。
在诸葛亮加入刘备阵营的半年间，刘备集团的发展较为顺利，其实力也得到了进一步的增强，这同时也是诸葛亮“隆中对”中所提出的“跨有荆益”战略构想的第一个关键步骤——拥有荆州的具体实施。不过，这个实施过程却因为第二年荆州地区出现的重大变故而意外终止了。此时中国北方地区长达十余年的混战局面已经基本结束，曹操集团脱颖而出成为中原霸主。一心想着平定战乱的曹操此时终于忍耐不住尽快统一全国的雄心，于建安十三年（公元208年）七月开始了征讨荆州的战事。
荆州战事开始之初，曹操佯装公开出兵进攻南阳宛县、叶县，实际上却是秘密从小道轻装前进，避开了刘表重兵布防的南阳，很快进入了荆州地区。就在这个时候，刘表意外病故，其子刘琮继位并投降曹操。
刘琮的投降对于刘备集团以及诸葛亮个人而言是一次沉重的打击，这也就意味着刘备及诸葛亮通过寄寓荆州努力发展自己的势力，并从荆州内部进行和平演变的预定策略彻底破灭。不仅如此，在曹操强大军力的逼迫下，刘备不得不放弃驻守地樊城，向江陵方向仓皇撤退。面对如此意想不到的局面，诸葛亮心中焦虑，向刘备提出了一个大胆的设想：乘乱进攻荆州州治襄阳，消灭刘琮，占领荆州。不过，诸葛亮的这个主张并没有得到刘备的应允，刘备只是在诸葛亮面前表示自己对于消灭刘琮于心不忍，并没有向诸葛亮解释其中的根本原因。
从当时荆州的局势看，刘备的决定无疑是正确的。此时荆州内部的整合趋势已经逆转，军队开始分裂，刘备即使夺取襄阳，固守一时，也无法照顾整个荆州战场。同时，驻守章陵的荆州大将文聘倾向于刘琮，如今刘琮已降，曹军若进攻襄、樊不利，便会转向安、随方向。文聘被招降之后，一旦攻陷枣阳，自东向西进逼汉水，争夺宜城，不仅有失去汉水之险，而且会造成襄阳与江陵联系中断。这样一来，即使攻占了襄阳，也会使自己陷入孤立无援的境地。固守襄阳一座孤城，其结果是必败无疑、加速自己的灭亡。从诸葛亮此次的献计中可以看出，面对突如其来的意外状况，年轻的诸葛亮也出现了考虑不周、顾此失彼的状况，幸好刘备最终没有采纳诸葛亮的建议，避免了刘备集团的一次灭顶之灾。
在刘备南撤的过程中，荆州十余万百姓先后加入，导致队伍行动缓慢，一天只能走几十里路。曹操得知刘备向江陵这个荆州重要的军事要地撤退的消息之后，立即命令大将曹纯率领五千名曹军精锐——虎豹骑以一天一夜三百里的速度追赶，并在当阳长坂地区追上了刘备。一番混战之后，刘备军队大败，十余万百姓被曹军冲散，刘备的两个女儿被曹军俘获，徐庶的母亲也落入敌手。为了保全母亲的性命，徐庶只能忍痛含泪与刘备、诸葛亮道别，只身前往曹营依附曹操。而遭受沉重打击的刘备也只得放弃原定撤退江陵的计划，与张飞、诸葛亮一起向汉水方向撤退。
途中，刘备见到了东吴集团派遣吊唁刘表的使者鲁肃，鲁肃建议刘备立即派人前往江东与孙权结盟，共同对抗曹操。随后，刘备又将鲁肃介绍给了诸葛亮。在诸葛亮的“隆中对”当中，联吴抗曹原本就是既定方略，鲁肃的这个提议自然得到了诸葛亮的赞同。而鲁肃与诸葛亮见面之后表示自己与诸葛亮的哥哥原本就是非常要好的朋友，双方的关系进一步拉近。此时的诸葛亮立即萌生了与鲁肃一起前往江东联合孙权的想法。
当刘备、诸葛亮及鲁肃等人与关羽的水军会合并一起退至夏口之后，诸葛亮立即迫不及待地向刘备表示前往江东与孙权进行会谈，尽快实现联吴抗曹的战略构想。至此，一场影响汉末政治格局及刘备集团生死存亡的大战开始了。诸葛亮作为这场战争的参与者和见证人，对战争的发展及结果发挥了巨大的作用。这场战争便是后人所熟知的“赤壁之战”。
诸葛亮与孙权见面的地点是在豫章郡的柴桑城中。面对比自己还要小一岁的吴主孙权，诸葛亮决心采用激将法来刺激他。诸葛亮说道：
如今天下大乱、诸侯纷争，将军起兵东南，刘备将军则在汉水以南招募军队，与曹操一起共同争夺天下。目前曹操已经攻占荆州大部地区，威镇寰宇，在曹操强大的军力面前，英雄也毫无用武之地，因此刘将军才不得不退兵夏口以避其锋芒。依照目前的形势，我觉得将军应该评估一下自己的力量从而采取相应的对策。如果将军希望以江东之众与曹操相抗衡，不如及早与之断绝关系；如果将军自认为力所不及，还不如趁早放下武器投降曹操。而今将军表面上与曹操关系良好，但内心深处却犹豫不决。在这个紧要关头如果还是这样的话，那不就会大祸临头了？
诸葛亮的话语果然让年轻气盛的孙权有些生气，他不禁反唇相讥：
如果真像先生所说的那样谁都不是曹操的对手，那刘将军为什么不投降曹操而非要不自量力与之对抗呢？
诸葛亮器宇轩昂地回答：
古人田横，不过是齐国的一名壮士，他尚且能够守义不辱，宁死不愿投降，何况刘将军乃是堂堂皇室后裔，英才盖世，天下英雄无不仰慕，就算败在曹操的手下，那也只是天意，怎么可能去投降汉贼曹操？
诸葛亮的激将法果然收到了巨大的成效，此时的孙权情绪已经变得非常激动，他兴冲冲地回答：
我早就已经打定主意了，说什么也不会将江东地区拱手让给曹操这个奸贼！一定与曹操决一死战！天下之大也只有我孙权和刘备将军可以抵挡曹操了。不过，刘将军刚刚在荆州遭遇惨败，他还有力量来与曹操对抗吗？
眼看孙权已经表明了自己的立场，诸葛亮立即对形势进行了冷静而客观的分析，诸葛亮认为：
刘将军的军队虽然在长坂地区遭遇失败，但是陆续回来的士兵以及关羽的水军加起来尚且有精兵万余人；荆州江夏太守、刘表的长子刘琦手中还有万余名士兵，这些军队都将是对付曹操的生力军。