5万人要驻守几十座城池，像熊津城这样的重要据点应该留有1万左右的主力部队，所以分散在各地的守军数量就更少了。而新罗军大多是久经沙场的机动部队，新罗方面的策略也是先易后难，先扫荡外围城池，再对熊津都督府形成合围之势，所以取得这样的战果也在情理之中。
如果仅仅是兵力不足，还不至于处处被动。当年刘仁愿、刘仁轨、孙仁师的兵力也不足，但是决心足、指挥得当，依旧能不落下风。可这一次，熊津都督府内，没有一个具有足够威望和能力的高官坐镇——刘仁愿因为配合进攻高句丽不力，被免官流放了；刘仁轨回国高升了；那个两次被任命为熊津都督的扶余隆，更是赖在唐朝，压根儿就没来上任；而都督府中最重要的两位百济官员——祢军和法聪，都被新罗扣留了。偌大的熊津都督府，能拉得出去打仗的，就只剩下了一个黑齿常之。
黑齿常之打仗很猛，但通盘谋划、运筹帷幄就不是他的长项了。所以，战事一开，他一方面要确保熊津城的安全，一方面要带着为数不多的军队四处救火，自然是疲于奔命、狼狈不堪。
不过，戍兵不够，可以找雇佣兵。在第一阶段的战争中，新罗军还打败了一支“狄兵”，这支狄兵，应当就是跟随高句丽遗民反叛的人。
靺鞨在当时还不是一个国家，但作为一个民族，他们已经在东北亚的大舞台上登场亮相，并且跨过鸭绿江上游，南下进入到了朝鲜半岛。当时的人还处在松散的奴隶制部族阶段，并没有明确的政治立场。他们就和早年的新罗城邦一样，为了生存去当别的势力的雇佣兵。所以，他们既能跟着高句丽遗民造反，也能反过来为唐军所征调，与新罗人打仗。
只不过在面对精锐的新罗军时，为了钱而战斗的靺鞨雇佣兵明显战力不足，被打得落花流水，不但损失了7000人马，还丢失了大量战马兵器，可以说输了个底朝天。
在扫清熊津城周围的障碍后，文武王金法敏还是显示了其政治家老道的一面——立刻派人渡海前往唐朝，向高宗皇帝解释对百济故地动兵的理由。当然，这些理由都是拿来忽悠人的，但从这一举动可以看出，新罗对唐朝还是相当忌惮的，唯恐唐军大兵压境。不过这次“解释”之行却因海上风浪而未能成行。
此后，新罗就把目标锁定在了熊津都督府的治所熊津城上。
671年（唐高宗咸亨二年）一月，新罗集结大军，向熊津城发起总攻。
需要注意的是，此时的熊津城，并非原来位于百济北部的那座熊津城，而是唐朝设立的熊津都督府的治所，即熊津府城。而原来的熊津城，则被唐朝改名为熊津县。此时的熊津府城，就是原来的百济旧都——泗沘城。
在这次关系到熊津都督府存亡的大战中，黑齿常之带着唐军、百济戍兵、靺鞨兵组成的特混部队，在熊津府城南与新罗军展开激战，最终打退了新罗军的进攻，保住了熊津府城。
新罗见黑齿常之骁勇善战，熊津府城一时难以攻下，便暂时停止了进攻。
眼看百济局势日益紧张，熊津都督府快撑不住了，唐朝上下也意识到新罗有可能会成为下一个高句丽，决不能再放任其为所欲为，于是抽调军队，打着讨伐高句丽叛军的旗号前去讨伐新罗。
唐军援兵分南北两路：北路是由高侃率领的1万唐军和由李谨行率领的3万靺鞨军。唐朝历来就有少量唐军指挥大量番兵作战的传统，而且李谨行本身就是人。南路军则是由从吐蕃前线调回来的名将薛仁贵率领，走海路直接支援熊津都督府。
两路援兵
两路援兵中，薛仁贵的南路军先到。北路军由于要与高句丽叛军作战，无法立刻驰援熊津都督府，所以救援熊津都督府的重任就落在了薛仁贵率领的南路军身上。薛仁贵所部唐军的数量不会很多，应该在2万人以内。
正因为在兵力上不如新罗军，所以薛仁贵刚到百济，就写了一封信给金法敏，指责他侵犯盟国土地、接纳高句丽叛贼，想通过外交威吓的方式来吓住金法敏，至少也让他有所顾忌，延缓新罗军的进攻，为唐军争取时间。
金法敏立刻给薛仁贵回了一封信，责怪唐朝不派使者来了解情况（有用吗？），直接就派大军沿江而上，对盟国（居然还有脸自称盟国）动武。
从金法敏的回信就能得知，薛仁贵率军救援熊津都督府走的是苏定方和刘仁轨的老路，即逆熊津江而上，走水路运兵。
六月，唐军前部抵达熊津府城。
新罗见唐军援兵来到，便设下了一个巨大的陷阱：新罗军先是把进攻熊津府城的部队撤了下来，然后故意摆出一副要去践踏加林城的庄稼的架势，诱使唐军前去救援。
加林城是熊津都督府的另一处重镇，熊津都督府的官员见援兵已到，便决定主动出击（很可能是苦于兵力不足，受够了新罗人的鸟气，迫不及待地要给新罗人一点颜色看看），急令已经到达熊津府城的唐军前部和百济戍兵前去支援。
结果，这支近万人的联军在石门遭到了新罗军的迎头痛击，被“斩首五千三百级”，两名百济将军、六名唐军果毅被俘。果毅都尉是唐军中的中级军官，每名果毅都尉下辖约500人，因此，唐军和百济戍兵的参战数量应当在5000～10000人。
取得石门之战的胜利后，新罗军继续主动出击，目标——唐军补给船队。薛仁贵的援兵走的是水路，其补给主要也是从山东半岛运来——当时熊津都督府下辖的百济故地一大半都被新罗控制，剩下能产粮的地方或被新罗军所威胁（比如加林城），或要供给熊津都督府原有驻军，已经很难再负担起薛仁贵带来的这支部队。十月，新罗水师偷袭唐军运粮船队，击毁唐军粮船70余艘，俘虏了督运粮草的莱州司马王益。
石门大败和粮船被劫，严重打击了唐军援兵和熊津都督府的士气，薛仁贵所部唐军也因补给困难在此后很长一段时间里无法对新罗发动反攻。勇猛如薛仁贵，也是巧妇难为无米之炊。而新罗方面则士气高涨，控制了百济故地的大部分地区，还在石门附近设置夫里州，唐军所能控制的地区只剩下了熊津府城等几座比较重要的城池。
672年（唐高宗咸亨三年）初，在百济战场占尽优势的新罗军继续对唐军控制下的熊津都督府发动进攻。新罗兵分两路，分别进攻古省城和加林城。古省城很快就被新罗军攻克。加林城位于熊津府城南面，是扼守熊津江的水陆要冲，一旦失守，熊津府城的唐军就会陷入孤立无援的境地。因此，薛仁贵派遣重兵驻守加林城。新罗军猛攻数次，皆无功而返。
在此后的一年时间里，唐军和新罗军在百济战场上互有攻守，基本上处在拉锯状态，但从总体上看，由于得不到北线唐军的支援，熊津都督府的压力依旧很大。
此时，由高侃和李谨行率领的北线唐军已经打到了朝鲜半岛。据《新唐书》记载，高侃先是把安东都护府城暂时从平壤迁至辽东城（今辽阳），然后与李谨行的军配合作战，先后在安市城和泉山击败高句丽叛军，还俘虏了两千名新罗援兵。可见，新罗不但在南线进攻熊津都督府，而且直接派兵北上支援高句丽叛军。
七月，高侃和李谨行率军进驻平壤，暂时稳定住了半岛北部的局面。两人将全军分为八营，就地休整。唐军北线主力南下的消息传来后，文武王金法敏异常紧张，如果让南北两支唐军会师，新罗军在百济战场就会变主动为被动，之前取得的战果也会化作乌有。
八月，高侃和李谨行率军南下。
与此同时，新罗军主力也挥师北上，连同被唐军赶过来的高句丽叛军，两军合兵一处，与唐军在石门遭遇。
一年前，唐军在这里丢下了几千具尸体；一年后，唐军要为战死的袍泽报仇雪恨！
这是一场以一敌二的较量：唐朝方面，唐军1万，军3万；新罗方面，新罗军主力3～4万，高句丽叛军3～4万。唐军兵力只是对手的一半。
结果，一战下来，新罗惨败，8万大军如鸟兽散。新罗不仅惨败，还搭上了阿餐晓川、沙餐义文、山世、阿餐能申、都善、一吉餐安那含、良臣等大将的性命。
新罗方面大为惶恐，文武王金法敏连忙下令败军撤至汉山州，同时征发民夫，加筑长城，想把北线唐军阻挡在汉江以北。更为糟糕的是，新罗在这一年还遭遇了严重的饥荒，大军补给困难，士气持续下滑。眼看局面由好转坏，文武王金法敏故伎重施——打不过你，那就装可怜。
九月，金法敏派使者向唐朝上表请罪，同时释放了包括熊津都督府司马祢军、曾山司马法聪、莱州司马王益及其所部170名运粮兵在内的众多俘虏，还献上了金、银、铜、牛黄等贡品。唐朝接受了新罗的请罪，暂时停止了对新罗的进攻。
那位从670年（咸亨元年）七月就被骗去扣留的熊津都督府司马祢军，在被新罗关押了26个月后，终于重新回到了大唐的怀抱。
千万不要以为新罗会真的认错，说好听点，这叫长袖善舞，软硬兼施；说难听点，就是一边忽悠你，一边喘口气，等缓过劲儿来了就继续打。
同时，金法敏还留了一手，他释放的只不过是运粮兵，那些在第一次石门之战中被俘的唐军（很可能有上千人），还是被扣留在新罗充当谈判的筹码。
金法敏还大言不惭地向高宗李治大倒苦水：“百济深仇，逼近臣蕃，告引天兵，灭臣雪耻。臣惧破灭，自欲求存，枉被凶逆之名，遂入难赦之罪。”
意思是说，百济人跟我们新罗有大仇，屡屡在边境闹事，还请来唐军打算灭掉我们。我（金法敏）是因为害怕国破家亡，为了保全国家才不得已与百济（熊津都督府）开战，现在反而被人诬告谋逆，这才背上了不可饶恕的罪名啊！
看到新罗放还的俘虏和金法敏的“诉苦”后，唐朝君臣简直哭笑不得。最后决定不去理会金法敏这个跳梁小丑，继续对新罗施加军事压力。为了鼓舞南线唐军的士气，尤其是笼络百济戍兵，唐朝还加封黑齿常之为忠武将军，行带方州长史，后来又授予他上柱国、沙泮州刺史，主持熊津都督府南线战事。
新罗一看唐朝不吃这一套，立马换了一副面孔，派出水师沿汉江而下，封锁百济西海岸，妄图切断唐军的水路补给线。
南线唐军见新罗在北线吃了个大败仗，也调集为数不多的部队，由薛仁贵坐镇熊津府城，由黑齿常之具体指挥，出兵收复了一些失地。但在南线战场，唐军总体上还是处于劣势。
673年（唐高宗咸亨四年）闰五月，北线唐军再次发动攻势，大将李谨行率靺鞨军在发芦河以西大破高句丽叛军主力，斩杀无数，俘虏数千人。高句丽叛军残部抵挡不住，只好投奔新罗。至此，北线唐军彻底平定了高句丽境内的叛军，平叛之战结束。
为了弥补兵力上的不足，唐朝还征发了相当数量的契丹战士到高侃和李谨行的军队里。这支特混部队随即借发庐河大胜之余威，接连进攻新罗北部边境。可一连9次进攻，联军都被新罗军击退，北线战场再次陷入僵持。
不得已的撤退
674年，唐高宗改元上元，同时册封武则天为天后。此时，唐朝和新罗都被四年的拉锯战拖得疲惫不堪，再也无力发动大规模的进攻。因此，在这一年里，两军偃旗息鼓、休养生息，准备来年大战。军队可以休息，可两国的外交较量却没有停止。
一月，高宗李治借改元之威，给新罗下了两记狠招。
政治上，削去唐朝赐予新罗文武王金法敏的一切官爵封号，同时册封金法敏的弟弟、一直在唐朝和新罗之间充当纽带的金仁问为新的新罗王，并派人送他回国即位。这一招非常老辣，既剥夺了金法敏的合法地位，又顺手离间了金法敏和金仁问两兄弟，激化了新罗国内反唐派与亲唐派的矛盾。
军事上，任命熟悉半岛事务的老臣刘仁轨为统帅，辅以李弼、李谨行等大将，率大军讨伐新罗。此前四年，唐朝和新罗虽然一直在打仗，但新罗名义上仍是大唐属国，金法敏也一直顶着大唐从二品的鸡林州大都督的帽子。然而这一次，高宗李治却任命刘仁轨为鸡林道行军总管，直接把新罗当成了主要攻击目标。
唐朝这两记狠招，等于跟新罗撕破了脸皮，唐罗战争也进入了最后的决战阶段。
不过，由于唐军主力仍在西部前线对抗吐蕃，刘仁轨并未立刻上任，而是到下半年才从陆路辽东进入安东都护府境内。
因此，在这一年时间里，唐军和新罗军仍在对峙。
就在这继续对峙的一年中，唐朝在处理朝鲜半岛问题上的态度已经发生了微妙的变化。
起先，西北安宁，唐朝的战略重心在东北亚，先后攻灭了百济和高句丽，设置了熊津都督府和安东都护府，对新罗在朝鲜半岛的蠢蠢欲动，也是骂一顿、揍几下，只要不是太过分，唐朝就睁一只眼闭一只眼，勉强维持现状。
而今，吐蕃屡屡犯境，再加上大非川之战的惨败，唐朝不得不把更多的精力和兵力调往西线——西线不宁，则关中震动。相比关中，熊津都督府和安东都护府则更像鸡肋，食之无味，弃之可惜。可即便是鸡肋，也不能轻易放弃。
进入上元年间后，高宗李治的身体每况愈下，日常政务基本上都由天后武则天打理。武则天宠信佛教，认为过多的征战杀伐有伤天和，在她的建言十二事中，第三条就是罢兵言和，休养生息。她的主张，高宗李治不会不考虑。正是从那时起，唐朝内部开始有了放弃熊津都督府和安东都护府的声音。
尽管如此，唐朝还是决定就朝鲜半岛局面做最后一次努力，重新起用熟悉半岛状况的刘仁轨前往镇抚。
675年（唐高宗上元二年）二月，刘仁轨率唐军主力挥师汉江，在汉江北岸的七重城大破新罗军；唐军水师也载着军从海上进攻新罗南部沿海，击败了新罗水师。水陆两方面都打了胜仗，新罗几乎没有还手之力，唐朝方面就将刘仁轨调回中央，其所部人马则重新派往西部边境。刘仁轨离开后，唐朝任命李谨行为安东镇抚大使，全权负责北线唐军作战事宜。
九月，南北两线唐军水陆并进，同时行动。
南线，薛仁贵起用新罗人风训为向导，率军从水路进攻泉城。不知道是内奸，还是新罗早有准备，这一仗，唐军前哨中了埋伏，战死千余人，还损失了战船40艘。薛仁贵率主力跟进解围，撤回熊津都督府。
北线，李谨行率大军走陆路进驻买肖城（今仁川附近），与新罗军在汉江下游大小18战，先后攻克赤木城、石岘城，基本控制了原高句丽南部地区。
金法敏一看形势不妙，前线打不过，如果再让金仁问回国，国内也可能乱起来，于是立刻改变策略，一边遣使向高宗李治谢罪，一边主动送还被俘的唐军将士，态度“诚恳”之至。
此时的唐朝已经陷入与吐蕃、新罗两线作战的尴尬境地，武则天和宰相张文也劝高宗李治罢兵休战，先集中力量对付吐蕃这个心腹大患。
高宗李治见新罗摆出了“屈服”的姿态——不但主动“认罪”，还放还被俘唐军士兵，显得比较有“诚意”，便以此为台阶，顺水推舟赦免了金法敏，恢复其官爵，并派人召回正在赶往新罗途中的金仁问。当然，李治也没让金仁问白跑“半趟”，就地改封他为临海郡公，算是对他辛苦赶路的补偿。