经历了官渡这一人生转折，张郃的职业指数呈上扬趋势。他参与了曹操平定北方的大部分战役，面对昔日故主袁绍，张郃不留丝毫情面，表现出一员武将的基本节操。多年以后，立下无数战功的张郃已是曹操手下一员不可或缺的大将。
在讨伐马超的潼关战役中，曹操率军渡黄河想抄西凉军的后路，便让主力部队先行，自率百余亲兵断后。马超动作迅猛，率军掩杀而至，曹操镇定自若坐在椅子上指挥，张郃见势不妙，招呼许褚等人连人带椅将曹操抬上了船。此役张郃救主有功，平定马超、韩遂之后，张郃留在西北，与夏侯渊搭档，扫除余孽，为曹操最终剿灭张鲁，占领汉中创造了条件。
公元215年（建安二十年）四月，曹操讨伐张鲁，张郃作为前锋，从散关出发，率五千人在前面开路。攻陷阳平关后，张鲁因连吃败仗退往巴中，后于7月投降。当时，曹操并没有接受主簿司马懿、刘晔的意见“得陇望蜀”，而是选择了退兵。班师之际，他任命夏侯渊为都护将军，督率徐晃、张郃驻守汉中，以防刘备，不过曹操并未明确指示夏侯渊、张郃等人下一步的军事行动，仅仅安排张郃率军深入至益州腹地的“三巴”地区（巴西、巴郡、巴东），强行将那里的百姓迁往汉中。从这一阶段起，张郃的军旅生涯被定位在了“西线”——主要与蜀人作战，至死未曾改变。
曹操尽管嘴上说“既得陇，复望蜀”，但他对天府之国的富饶念念不忘，在不愿直接派遣重兵南下的情况下，借徙民为名安排小分队试探蜀中虚实成为最现实的做法。张郃不是一莽之夫，即便曹操没有明确告诉他以上理由，他也能猜出用意。只是，蜀地路途艰险又属于未知之地，这一次的军事行动，从战略上考量，是一次孤军深入，张郃不能不替自己担心。不过，事实让张郃甚至曹操都有些惊讶，一路进军顺利，一直打到了岩渠（今四川渠县西北）。这个时候，刘备远在江陵与孙权交涉荆州事宜，曹操破汉中已使“蜀中日数十惊”，张郃的人居然能打到巴西郡，这不能不引起刘备的重视，他迅速任命张飞为巴西郡太守，前往岩渠“救火”。
张飞堪称张郃一生的劲敌，岩渠一战，“二张”相持达五十余日，双方都有所顾忌，怕棋错一招被对手抓住破绽，最后还是张飞主动出击，利用有利地形，引诱张郃到生僻之地，切断对外联系，将其打得大败，张郃只带了十几个人奔回汉中。《三国演义》这一回叫做：猛张飞智取瓦口隘。日后常被诸葛亮提及的“尝闻张翼德大战张郃，人皆惊惧”指的就是这一战。张飞是三国名将，以勇猛闻名于世，一般人未战先怯。能与他惊心动魄大战一场的人唯有张郃，可知其并非碌碌之辈。
换句话说，如果不是遇到张飞，张郃应该能顺利完成徙民的任务，将蜀中虚实探听清楚，曹操或许会改变策略，迅速挥师南下抢占益州，三足鼎立的历史估计也会被改写。然而历史容不得这许多“如果”，从曹操入汉中、二张争夺岩渠算起，四个月后，也就是215年的十一月，刘备已经赶到江州（重庆），此刻，曹操已不可能肆无忌惮地进入益州，进而失去了战机，为以后丢失汉中埋下了伏笔。
汉中在曹操手中，于刘备而言好比是家门口蹲着一只猛虎，若不将其驱赶，势必有性命之忧。三年后，刘备全面发动了汉中战役，曹魏一方，西线司令长官夏侯渊与徐晃在阳平关与刘备军对峙，张郃则领一军深入广石（今四川广元境内），成犄角之势，以便救应。刘备见曹魏人马分头行动，认为敌人“自取败势”，十分兴奋，企图分割夏侯渊、张郃从而各个击破，殊不知曹军十分顽强，阳平关守得铁桶一般不说，张郃在广石更是身先士卒，亲自上阵肉搏，纵然刘备“以精卒万余，分为十部，夜急攻（张）郃”，也占不了半分便宜。这也直接导致张郃成为刘备的一块心病。夏侯渊死后，刘备并不因此高兴，也是因为他发觉汉中地区的曹魏军队对他威胁最大的，反而是身为副将的张郃。《三国志》注引《典略》上说：“渊虽为都督，刘备惮郃而易渊。及杀渊，备曰：‘当得其魁，用此何为邪？”能得到敌军统帅的夸奖，张郃的能力的确非同一般。
同时，张郃等人在汉中前线的殊死搏杀也让曹操意识到，即便不能“得陇望蜀”，也要确保汉中这块战略要地，否则以后休想再度窥视益州，于是，在当年年底，他从长安发兵驰援汉中。
由于蜀道艰险，曹操进军的速度比较缓慢，尚未到达汉中，夏侯渊在定军山兵败身亡的消息就已传来。曹操一方面为夏侯渊的死感到悲伤，另一方面更担心汉中士卒伤了士气难以御敌。事实上，张郃很快就替他解决了这个问题，他收拾残兵，退守阳平关，把刘备的军队阻隔在汉中以南。这个时候，由于负责汉中片区的最高军事长官夏侯渊阵亡，三军无主，混乱不堪，军司马郭淮站出来把张郃推向前台：“张将军是国家名将，刘备也很畏惧他，如今形势紧急，非得张将军出来坐镇，才能力挽危局！”值得玩味的是，郭淮的这个举动属于“越权行事”，不合法度，而且估计事先也没争得张郃许可。但情况紧急，曹魏一方最重要的任务是为守卫汉中争取时间，没人对此提出异议。而张郃，毅然接过重任，整顿队伍，安排防守职责，稳定军心，有条不紊，让众人心服口服，可见张郃的威望与能力正与日俱增。当然，军队更换统帅是件大事，必须及时报与上级知晓，张郃在这方面也表现得颇有情商。曹操得知此事后并未怪罪张郃，反而让人把主帅的兵符印信交于他，正式承认他西线战区司令长官的地位。
不过这些行动丝毫不能改变汉中地区的“大势已去”。夏侯渊阵亡五个月后，曹操放弃汉中这块“鸡肋”，撤回长安，留下张郃驻守于门户要道陈仓，威慑刘备。