武关地处河南、陕西两省的交界处，刘邦占领了南阳郡以后，武关就完全暴露在刘邦大军面前。
但是，当刘邦正准备向武关展开进攻的时候，一个不好的消息传来：秦军主将章邯率领大军向项羽投降了。原来，宋义与次将项羽、末将范增率领楚军北上救赵，在安阳止步不前，在那里逗留了46天，宋义的目的是坐山观虎斗，最后坐收渔翁之利，同时，他也有些惧怕章邯，不敢与章邯硬碰。然而，自项梁死后，项羽本就对怀王拉宋义打压项家军集团一事耿耿于怀，于是，项羽和范增密谋，借宋义拥兵不前大做文章，说他图谋不轨（恰好此时宋义正忙着送自己的儿子去齐国为相），于是聚众发动兵变，杀了宋义，夺取了他的军事指挥权，重新架空了怀王。然后，项羽率部渡过黄河，北上救赵，进抵巨鹿，与秦军展开激战，大败秦军，杀秦将苏角、俘虏王离，秦将涉间自杀。随后又屡败章邯，迫使章邯率部投降。
章邯投降，使项羽扫除了西进函谷关的最大障碍，刘邦在项梁手下时，曾多次与项羽并肩作战，对项羽出类拔萃的作战能力非常了解。如今章邯投降，以项羽的本事用不了多长时间就能进抵函谷关。刘邦心里非常着急，他要抢在项羽之前进入关中，于是决定加快解决武关的战斗。
当然，章邯的投降客观上也为刘邦造成了进军关中的有利态势。原来，自陈胜、吴广起义以后，丞相赵高（他已杀掉了丞相李斯，自己取而代之）处处隐瞒战报，谎称天下太平，并无起义军闹事的事情。直到陈胜的起义军打到了函谷关，他实在瞒不下去了，才说这不过是一些毛贼闹事，翻不起什么大浪，于是让少府（主管皇室的财败政，管理山海池泽之税，供给皇室生活所需，相当于内务部长）章邯将骊山的刑徒组织起来镇压起义军。没想到，章邯一路奏凯，居然在短短两三个月的时间里就把陈胜的起义军给镇压下去了。于是，把持朝政的赵高又大肆粉饰太平，如今章邯投降，刘邦率军进抵武关，项羽也率领那支比虎狼之师更可怕的军队向函谷关长驱开拔，赵高慌了手脚，他知道现在再也瞒不下去了。由于赵高怕秦二世治他的罪，于是抢先下手发动宫廷政变，杀了秦二世，拥立二世的侄儿子婴，并去掉帝号，称为秦王。
赵高杀了秦二世后，立即派使者来到刘邦这里，表示愿意和他讲和，与他平分关中。刘邦当然不予理睬，和张良一道加紧研究进攻武关的战术。
张良认为，武关作为进入关中的南大门，地势非常险要，堪称“一夫当关，万夫莫开”，采取强攻的方式不但会付出重大的伤亡，而且很有可能达不到效果。他建议先让能说会道的郦食其和陆贾带着大量的金银财宝去贿赂镇守武关的秦将，松懈其斗志，然后趁其不备发动突然袭击。刘邦采用了张良的计谋，果然一举攻下了武关，打开了进入关中平原的南部大门。
而此时，秦王子婴早巳听说赵高欲与刘邦讲和，消灭秦宗室子孙，然后与刘邦分王关中一事，于是以其人之道还治其人之身，设计诱杀了赵高，并集中兵力在峣关（今陕西蓝田县东南）一带布防，企图阻止刘邦进攻咸阳。
峣关前据峣岭，后枕蒉山，关城设在山口的险要处。刘邦攻破武关以后，一路上几乎没有遇到什么阻击就来到了峣关。此时的刘邦似乎有些被胜利冲昏了头脑，或者说他急于想尽快进入咸阳，准备派两万人马，强攻峣关。
张良认为此举非常不妥，因为峣关地势险要，秦王子婴亲自派重兵把守，守关将领自然不敢怠慢，必然会殊死作战，如果强攻，只能激发秦军为最后的荣誉而战，那对我方是极为不利的。
于是，张良又派人对峣关做了一番侦察，摸清了峣关守军的底细。他对刘邦说：“驻守峣关的秦军作战能力非常强大，不可轻视，强攻只会使我们白白付出伤亡代价，却很难攻下峣关。据我们的侦察人员报告，峣关的守将是个屠夫的儿子，算是商人一类，一般来讲商人都很重利，沛公不妨留在大本营坚守，派出少量的先头部队，让他们带上5万人的食具，以为疑兵；并在周围的山上张旗鼓噪，做出要大举进攻的样子；然后再派郦食其带上重金去见那位守将，诱之以利，想办法让他投降。”
张良的这一招果然灵验。那个秦将就是个贪财之徒，他见郦食其送来了大量的珍宝，又看到刘邦军队咄咄逼人的进攻态势，觉得坚守没有多大意义，刘邦即使攻不下峣关，也会把自己困在这里，于是他表示愿意投降，与刘邦合军进击咸阳。
刘邦听了郦食其的回报非常高兴，准备举办受降仪式。不过，此时的张良比谁都清醒，他认为守将虽然被收买，但他的部下不一定会服从，如果他的部下继续抵抗，就算是夺取了峣关，他的部下节节抵抗，慢慢向咸阳撤退，同样会延迟刘邦进入咸阳的时间。于是他又向刘邦建议说：“不如趁守将准备投降、防守意识松懈的时机，突然发动进攻，这样就能很快击败秦军，拿下峣关。”
刘邦在关键时刻总能接受张良的建议，他一面继续与秦将谈判，商量有关投降的事宜，一面偷偷派兵从小路绕过峣关，爬上峣关后面的蒉山，突然发起进攻，峣关的秦军陷入了前后夹击的窘境，刘邦很快就占领了峣关。
随后从峣关败退的秦军又匆匆在蓝田（今陕西蓝田县）设防，不过，蓝田已无险可守，刘邦乘胜进击，在蓝田再次击败秦军，扫除了咸阳外围的最后一道防线。咸阳城就在眼前了。
武关和峣关不仅地势险要，易守难攻，而且作为秦都咸阳南面的两道大门，长年有重兵把守，至于其守将，也是经过精挑细选的。可是守将们在大敌当前时，都敢接受刘邦的贿赂。按照秦朝的法律规定，守军将士擅自接受敌人的馈赠是要被处以死刑的，然而，他们之所以敢冒死触犯这条禁令，这说明秦统治集团已经到了彻底腐败的地步。张良正是看中了这一点，所以才一而再，再而三地建议刘邦采取这种办法。而事实证明，张良的眼光是独到的，不愧是老江湖。这不仅得益于黄石公给他的那本《太公兵法》，而且也因为刺杀秦始皇事件使他不得不隐姓埋名，逃亡江湖十多年，让他长了不少见识，所以，他的眼光常常很老辣，见解非常独到。
公元前207年10月，刘邦率军向咸阳城进发，到达霸上（今陕西西安东南）。刘邦在这里进行进攻前的军事部署，他原以为秦王世世代代好武，此番攻打咸阳必然有一番恶战。然而出乎他预料的是，秦王子婴居然派出使者前来请求投降。能够“不战而屈人之兵”，当然是求之不得的事，刘邦很爽快地答应了子婴的请降要求，于是顺利地进入了咸阳城。子婴只当了46天秦王，秦王朝就正式宣告灭亡。
子婴投降后，在刘帮阵营中有一些患有政治眼光短视病的人建议刘邦杀掉子婴。不过，此时的刘邦因为这段时间来一直与张良朝夕相处，在张良的影响下已懂得了什么是真正的政治，他见有人建议他杀掉子婴，于是抬出了楚怀王这块招牌予以挡驾，他说：“当初，怀王之所以要派我单独领军西征进攻关中，就是认为我能宽大处理问题，不像项羽那样每攻占一座城市，往往就大肆屠杀投降的将士，甚至要屠杀无辜的百姓。现在子婴既然以秦王的身份主动投降，免去了我军攻城所要付出的伤亡代价，也算是将功折罪，对于这样的人，杀掉他恐怕会招致报应。再说，天下诸侯共同起兵反秦，秦王朝灭亡了，大家都有一份功劳，要处理子婴，也要等天下诸侯齐聚咸阳时共同处理。如果我擅自将子婴处死，那么怀王会怎么看待我刘邦呢？天下诸侯又会怎么看待我刘邦呢？”
不过，刘邦虽然不杀子婴，却抵挡不住秦王朝官室对他的诱惑。进入咸阳后，他看到秦宫里华美的陈设、漂亮的宫女，以及数不尽的金银珠宝、犬马宠物，就想住下来快活一番。
樊哙批评他说：“您到底是想夺取天下，还是想在这里当个富翁？依我看这些奢华的东西正是秦朝之所以灭亡的祸根。希望您赶快回军霸上，不要在秦宫逗留。”这个樊哙是个性情中人，为人比较爽直，也有些鲁莽，他和刘邦是沛县时的难兄难弟，而且又是刘邦的担挑（樊哙的老婆吕媭是刘邦的小姨子），所以，他能对刘邦以这种口气说话，当然刘邦也不会和他计较。不过此时的刘邦哪里听得进他的这些话，对秦宫恋恋不舍，不愿离开。但是有一个人的话他不得不听，这个人就是张良。
张良对他说：“正因为秦王朝暴虐无道，天下叛之，所以沛公您今天才能进入咸阳，来到这里。我听说，大凡为天下铲除暴政、替天行道的人应当以朴素为本。如今沛公您刚刚进入咸阳，就想贪图安逸，沉溺于声色犬马，这就和人们通常所谓的‘助桀为虐’没有什么区别。再说‘忠言逆耳利于行，良药苦口利于病’，樊哙的话虽然直了些，有些不中听，但他全是为您着想，希望沛公听从樊哙的意见。”刘邦素来尊重张良，见张良如此郑重地跟他说出了这样一番话，只好率军返回霸上。
刘邦回到霸上，做了一件非常重要的事，他召集关中父老集会，向他们公开宣布：“根据怀王与诸将的约定，‘先入定关中者王之’，我将成为关中王，现在我与诸位约定三条：‘废除秦的严刑苛法，杀人者死，伤人及盗抵罪。’这就是历史上有名的“约法三章”。刘邦还一再声明自己此来是为父老乡亲们除害的，是让大家过好日子的，并保证自己的军队不扰民，对老百姓秋毫无犯，秦朝原有的官吏继续留用，但从此必须爱民尽职，忠于职守。
于是，无论是关中地区原有的秦朝官员，还是普通老百姓都莫不欢欣鼓舞，奔走相告。争先恐后地送来牛羊美酒犒劳刘邦的将士，刘邦坚辞不受，对他们说：“现在官库里的存粮还有很多，军队并不缺粮，因此不想让大家破费，大家的好意我刘邦领了。”关中地区的父老乡亲们见刘邦这样替他们着想，更加高兴，在心理上认定了这位未来的关中王，甚至惟恐他不在关中当王。至此，刘邦在事实上赢得了关中地区的民心，这为他后来从汉中回师关中，平定三秦，打下了坚实的政治基础和群众基础。