前文提到的华尔应运而至。这位美国人被他的同胞、军事历史学家卡尔称为“魔鬼战士”（Devil Soldier）。
华尔生于1831年11月。根据卡尔所著《魔鬼战士：华尔的故事》一书，华尔从小就十分叛逆，喜爱冒险。他不到16岁就跟船去过香港，18岁时进入美国文理军事学院学习。20岁时，他作为大副跟船到上海，从事货物贸易。次年，他开始从事劳工买卖，将中国劳工贩卖至墨西哥。在从事劳工买卖的过程中，他认识了臭名昭著的美国冒险家威廉·沃克，并跟随后者掠夺、屠杀墨西哥土著。
1860年，华尔再度从洛杉矶来到上海，开始了在中国的冒险生涯。他在墨西哥的征兵、训练战士及战争经验很快就派上了用场。
在苏松太道吴煦的资助下，华尔组建了一支2000人的洋枪队，成员既有中国本土人，也有西方人和菲律宾人。值得一提的是，吴煦之所以提供资金援助，并非出于贯彻彼时尚未成形的“师夷长技”国策，仅仅是为了缓解上海之围。而华尔等人之所以不辞辛劳，是为了获得资金。双方各取所需而已。
在几次上海之战中，华尔的洋枪队都有积极参与。1862年3月，在岳父、盐运使杨坊的保举下，华尔加入了中国籍，他的洋枪队也奉命改为了“常胜军”。但是，4个月之后，他在浙江慈溪被李秀成的军队击毙。
继华尔之后担任“常胜军”指挥官的，是大名鼎鼎的戈登。戈登最有名的战例是，在1863年12月，成功地利用太平天国苏州守城将帅之间的不和，使郜永宽、汪安钧等将领刺杀了主帅谭绍光，最终不费一兵一卒就夺取了苏州。但是，因为李鸿章杀害了郜永宽等降将，戈登与之决裂，并将“常胜军”的控制权交给了英军。双方在意识形态及军事思想上的差异暴露无遗。1864年5月，清军攻陷常州之后，“常胜军”被解散。
根据太平天国史研究者伊恩·希斯（Ian Heath）及迈克尔·佩里（Michael Perry）的记录，1863年时，“常胜军”已拥有一支炮兵，其重型炮炮队及轻型炮炮队各有5名外国军官，共有19名中国军士，120名至150名炮手。它还拥有一支由12艘武装明轮船、30～50艘中国炮舰组成的海军。
除了“常胜军”，在镇压太平天国的过程中，清政府还得到另外一支由清政府出资购买军火但由英国人担任指挥官的军队的帮助。这支军队的创建，是贯彻“师夷长技”国策的结果，也是英国放弃中立政策的结果。
1862年7月7日，英国外交大臣拉塞尔发布了一项文件，他完全抛弃了中立政策，突出了已经实施的干涉原则。这份发给所有在中国的英国官员的文件写道：
我们追求的理性路线是，保卫我们自己的贸易，保护通商口岸，鼓励清朝政府武装足够的炮兵、步兵和骑兵以打败太平军，迫使他们臣服。只要租界受到太平军的威胁，你们要调动驻上海的军队。宁波应该被帝国政府（指清政府）收复。当他们有足够的兵力完成这个目标时，他们将全力以赴对付南京。
根据英国议会的资料，1862年8月底，枢密院发布一项命令，废止了外国服役法（The Foreign Enlistment Act）的规定，授权海军少将谢拉德·奥斯本及李泰国为中华帝国征兵，并装备兵船。
下议院议员哈蒙德是支持者之一。他在写给海军部长克拉伦斯·帕赫特的书信中提到，英国政府应该在中国建立一支欧洲海军，以恢复整个中华帝国的秩序。
据这些资料的提供者伯克说，中国从英国买了一支武装舰队，并把它交由谢拉德·奥斯本指挥。购买这支船队的资金全部来自海关税收，共计65万两白银，其中，广州海关提供了25万两，上海海关提供了20万两，厦门海关提供了5万两，其余15万两来自以福州海关收入为抵押的贷款，年利率为8%～10%，以进出口关税抵偿贷款本息。“外国资本家很喜欢这种形式，因为它简单，并且能够节约他们的成本”。
在1863年7月之前，中国从英国政府手中购买了3艘炮舰，还在英国的私营船坞订购了另外3艘。相应的法律也制定了出来，比如士兵的薪水和口粮，伤员的退休金和补偿金，甚至还设计了一面黄绿条纹的军旗。但是，在这面军旗之下的这支军队，并非为皇帝而战，而是为李泰国和外国人的通商口岸而战。
1863年7月6日，伯克在下议院演讲时说：
很难确定这支军队的具体目标，因为政府在这方面似乎没有任何明确的概念。李泰国提出的在英国征兵的正式申请中说，这支军队将用于重建清政府在扬子江的权威，保护内河的商业安全，并且在公海镇压海盗。
伯克质疑哈蒙德所谓的“恢复整个中华帝国秩序”的野心，“恢复中华帝国的秩序的指令是一个相当大的指令。因为这支军队只有400人，而中国人口大约有4亿，相当于每个人要恢复一百万人的秩序”。