李鸿章的避战求和，助长了法国的侵略气焰。法国侵略者一面派人与李鸿章进行谈判，乘机要挟恫吓，一面派大批海陆军到越南，加快了发动侵华战争的步伐。
1882年11月，宝海与李鸿章签署《宝李协议》，双方在不谈对越宗主权与保护权的前提下，中国应先自越南撤兵，中法以红河以北为界，北圻由中国保护，南圻由法国保护。因宝海力主在红河以北划界，李鸿章未予坚持，并认为中国在越南的界限，实在不必向南伸展太远。尽管《宝李协议》中国丧失部分权利，法国政府借口该协议与法越条约条款不符，将宝海撤职，另派驻日公使脱利古来华续商。同时，增拨军费，制定侵略计划。
在宝海与李鸿章谈判之时，曾纪泽也另觅途径，以期打破他在巴黎所面临的外交僵局。由于英国不愿意因英国干预越南问题而导致英法关系恶化，因此拒绝就中法问题调停，曾纪泽寻求英国帮助中国、限制法国的计划落空了。为了阐明宝李协议中中方的立场，曾纪泽接见了法国费加罗报记者，将中国对越南的现行政策归纳为三原则，即中国保护越南，是把越南作为中国南界与法国之间缓冲地带，用以杜绝中法之间直接武力冲突；若法国想驱逐黑旗军而占地通商，则事先必与中国商议；中国与法国分护越南，中国不放弃对越南的保护权。等到法国单方宣布废弃宝李协议，并将宝海撤职，曾纪泽与法国和平谈判的希望已经落空，他深信法国派宝海谈判，只不过是一场骗局，目的是延宕中国对越的军事布置。他也认定此后中国应付越南局势唯一有效的途径，只有采取武力政策，以协迫法国自动放弃吞并北圻的企图，或迫使其与中国议商和平解决的其它方案。他反对中国再与法国作任何认真的谈判。
曾纪泽在对两国的军事实力和国际形势的分析后，提出中国应坚持“备战求和”的战略方针，他说：法国垂涎我国南部，为时很久了，无论政客，还是商人，从未忘过。我国果真能以实力抗争，他们就会退缩，如果再姑息纵容，仅以空洞的言论与之抗争，恐怕今年之内东京就不归越南所有。仔细考察一下法国的财力，实际并不富裕，法国与德国、意大利二国关系不和，常常有所顾虑。越南距法本土甚远，劳师动众，筹措兵饷，尤其不易。法国占据越南的西贡，那仅是一块贫瘠之地，若果真与我们交战，此地也难长久据守。中国近年海防加强，抵抗联合的各国，兵力不足，如果专门对付法国，则绰绰有余。法国占领越南，若派兵二万，即要倾其全力，中国说不定不用开战，就能胜利。一战失败，可重整旗鼓再战，则法国无法做到，中法若能相持一年，法必然失败。况备战未必真导致战争！这就是所说的备战可以求得和平，而一味追求和平则必导致战争。
曾纪泽对“备战和平”与“法越之事的分析都是很正确的。事实上，极力主张武力侵占越南的茹费理政府地位并不稳固，法国可以用于远东的兵力也很有限，在外交上法国的处境也很孤立。如果中国能积极援助越南，准备作持久战，“坚持不让之心，一战不胜，则谋再战；再战不胜，则谋屡战”，则法国未必敢于冒险。但此时李鸿章为首的清政府一味惧战，及至法军攻占越南首都顺化，强迫越南签订《顺化条约》，公开宣布越南全属法国，李鸿章仍然极力主和，并以“各省水旱频仍，元气未复，饷力艰窘，罅隙实多”等理由，进一步主张放弃越南。主和派们不仅仅对战争，还把坚持抵抗的曾纪泽视为与洋人妥协的障碍，国内同事和朋友中也有些不明真相的人，责备曾纪泽“一意主战，以国家为孤注”。曾纪泽却始终坚持他的正确观点，为中国权益在坚持不懈地奋斗着。
脱利古与李鸿章开始谈判后，脱利古骄横无礼、狂妄自大，声言不惜对中国开战，李鸿章被其威胁吓破了胆，马上否认中国曾帮助越南抗法，也未曾支持刘永福拒法，并电告总理衙门，不可轻言战事。初次谈判由于双方差距过大，毫无结果。法军占领顺化后，又向李鸿章提出重新分界等主张，由于该建议导致中国丧权过多，清政府予以拒绝。
由于法国外交部对曾纪泽采取既不复照会，也不与之谈判，置之不理之态度，曾纪泽为阐明中国原则和立场，不时接见外国记者，阐明自己两年来坚持的对越政策要点，警告法国，如果不听中国劝告，誓将冒中法战争的危险。
1883年12月，法国议会通过2900万法郎的军费和再派1.5万名远征军的提案，“决议夺取山西、北宁，将不与中国谈判”。在此情况下，清政府也被迫调兵遣将，积极备战。命两江总督左宗棠，直隶总督李鸿章分办南北洋防务，命滇督岑毓英督率防军驻扎北圻，中法越南战争一触即发。
中法越南领土上武力对峙严峻时候，曾纪泽认真考察了中法双方在越南的兵力部署、部队装备情况，提出应采用持久战战术。他说：现在法国认为我们武器装备差、军队没经过西方式的正规训练，肯定经不起，一战就会跨掉、失败，因此他们想试探一下虚实，仅用军舰十几艘，士兵万人就来到东方。如果我们被他们以威胁吓倒，不战即退，则刚好遂了法国的心愿，这岂不是亘古未有的一大遗憾。况且不是让一下就能了结的，其它各国企图占领中国其它领土或属邦的事情就会接踵而来，中国如何招架呢？像法国这样内部混乱、外部孤立的侵略者中国都不能抵抗，何况英俄等强国呢？此次中国不顽强御敌，振兴祖国，则我们中华民族就没有自强之日了，每每想起这些，悲愤无比，感慨万千。
1883年12月11日，法军6000人在法国远征军总司令孤拔率领下，对协助越南抗法的清军和黑旗军发动进攻，清军统帅因感到清政府对战争态度不坚决，失败则有罪，胜利也不嘉奖，弃军而逃。黑旗军代守5天，因众寡悬殊，山西失守。紧接着河内、北宁、顺化等失陷。
法国侵略者因占领山西兴高采烈，竟恬不知耻地说：“色当被山西掩蔽了。”意为山西之战的胜利，弥补了普法战争中法国在色当一役的失败。曾纪泽在致德国报社函中，公开将刘永福军在山西的败绩与普法战争中色当一役法皇被掳、法军全军覆灭的大败溃相对比，对法国的得意进行辛辣的讽刺，法国朝野一致认为是对法国国家最大的侮辱，法国国会纷纷主张要倾全力抵制曾纪泽强硬政策，要将这个法国既恨又怕又无可耐何的驻法公使赶出法国，不允许他散布对法强硬、抵抗法国的言论，不许他损害法国的伟大形象。因此，当清政府因战争初期失利吓得惊慌失措，派李鸿章寻求和解的时候，法国特别声明：“曾纪泽一日不调离他驻法国公使的职务，法国就一日不与中国商议越事。”还攻击曾纪泽在巴黎办事，“于法国国家命意所在全无知晓”，只是时时狂妄地用中国将对法开战相威胁，致使中国战场上失败而失去体面，向法国求和。
法国对曾纪泽的凌辱和疯狂进攻，使本来内忧议和，外抗敌廷，终日焦灼的曾纪泽心力交瘁，致使他咯血数日，染病在身。他自己也称，如果法国人再肆意诋毁他，则病情必会加剧而不可救药了。
即便如此，曾纪泽每日拖着虚弱的身躯积极活动、四处奔走，丝毫不敢放松工作，时刻为维护中国的权益而斗争。他担心朝廷主和思想占上风，极力说服朝廷坚持对法持久作战，他坚决反对以牺牲中国的利益为代价同法国议和，但是清政府已决心与法国言和，不仅不采纳曾纪泽的建议，而且为了达到议和的目的，甚至答应了法国提出的苛刻条件：放弃越南，撤销曾纪泽驻法公使职务，改以翰林院侍讲许景澄接任曾纪泽，未到任之前，由使德大臣李凤苞兼任。
一片忠心反遭到如此打击的曾纪泽，悲愤交加，“寝馈难安”，双手颤抖得连字都写不出来，他终于病倒了。
1884年5月11日，中法签订了《中法会议简明条约》（又称《李福协定》），清政府承认法国与越南订立的条约，中国同意在中越边境开埠通商等等。曾纪泽同法国侵略者抗争多年、奋斗多年的中国权益，被清政府一纸合约葬送了，法国侵吞越南，窥伺中国边境的愿望实现了。
果然不出曾纪泽所料，法国并不以占据越南为满足，《简明条约》墨迹未干，法国就出兵“接收”谅山。中国守军奋起自卫，打退了法军，法军以此为借口要挟清政府。接着，法国船队开入马尾港，水师统帅秉承政府意旨，“严令水师不准先向法国开炮，违抗者虽战胜法国也当斩首”。结果法舰突然开火，11艘清舰毫无准备，全部被击沉。在全国不满和指责下，清政府于8月26日下诏抗法。1885年春，镇南关——谅山大捷中国胜利的消息导致茹费理的垮台，但清政府却“乘胜即收”，匆忙同法国达成停战协议，重申《简明条约》有效，6月9日中法签订《会订越南条约》，正式承认越南是法国的保护国。中国是“不败而败”地失败了，曾纪泽的外交政策，外交思想没能得以最后实现。