咸丰二年（公元1852年）四月，太平军一路杀入湖南，攻陷道州时，全省风声鹤唳。湖广总督急令各府县募集乡勇准备战事。湘乡县令朱孙诒为官清廉，得到士绅百姓的拥戴。廪生罗泽南、生员王錱、刘蓉等人积极参与募集乡勇。在他们的努力下，很快就组建起一支一千多人的队伍，由于骨干多数是有知识的书生，所以这支队伍的素质很高。
当时湖南其他府县，也有编练乡勇的，所以湘乡的乡勇后来被称为湘勇。太平军北进湖北后，巡抚张亮基调湘勇到省城防御，正好碰上朝廷要曾国藩帮办团练，这支家乡子弟兵便顺理成章地归在了曾国藩的麾下，湘乡的罗泽南、刘蓉、王錱等人便成了他办团练的最初班底。
咸丰三年年初（公元1853年1月21日），曾国藩一行带领一千多人的湘勇赶到了长沙。
还没有进城，众乡绅及往日岳麓书院的同学、同乡就前来热烈迎接。
来到巡抚衙门，张亮基在大开的中门外带领省署大小官员大张旗鼓地迎接曾国藩一行的到来。从此，曾国藩以文员侍郎的身份开始了他的军旅生涯。
此时，湖北的武昌已经失守，从广西金田到湖北的武昌，太平军已经步步逼近大清的统治中心。此时的咸丰帝早已坐立不安了。在曾国藩等人刚到湖南长沙时，他就下令曾国藩等人赶紧奔赴前线抗击太平军。
这个命令简直是有些荒诞。曾国藩他们几个都是文弱书生，虽然已经有了一千湘勇，可在气势正盛的数以万计的太平军面前，也是弱不禁风。太平军将士就是一人一口唾沫也能把这一千多人淹死，别说动刀动枪了。
看来，咸丰帝真是病急乱投医了，以为在朝堂一个顶俩的曾国藩，在沙场也是一把好手。其实，现在的曾国藩只是一介文弱书生而已，他还需要时间在沙场历练一番。可咸丰帝最不想听的就是时间，因为太平军没有给他时间，反而凌厉的攻势让他感到愤怒和战栗。
如果在朝堂之上，曾国藩没有办法推辞和拖延，就是一个人肉盾牌也得挡上去；而现在远在千里之外，他自然不会拿自己的生命开玩笑，于是找了一大堆理由搪塞过去。而找理由一向是曾国藩的强项。
当夜，张亮基为了给曾国藩洗尘，在巡抚衙门大摆酒席。面对如此隆重而诚恳的接待，曾国藩被深深感动了。
一连几天，曾国藩都和张亮基都在密谈，二人达成了许多共识：曾国藩认为乱世须用重典，提出“宁可失之于严，不可失之于宽”的方略，张亮基非常赞同。曾国藩还主张从各县的乡勇中选择优秀人才，招募到省城，经过严格训练，在省城建一大团，从而保卫省城的安全。张亮基个人也表示同意，只是这件事事关重大，需要向皇上请示。最后，张亮基紧握曾国藩的双手，说：“今后有关湖南保境安民的一切事务都拜托给仁兄了，放开手脚干吧。”
张亮基的一番话把曾国藩说得热血沸腾，顿生一种相见恨晚的感觉。
随后，曾国藩就向皇上呈递奏折，要求在长沙建大团，成一劲旅，就能与太平军一较高低了。
那么，曾国藩为什么非要另建新军，在八旗和绿营的基础上扩增不行吗？
曾国藩虽然是个没有带过兵的文官，但对官军围剿太平军失利的事实也是心知肚明，他坚信这样的军队无法和太平军相抗衡。早在京做官时，他便向咸丰帝上过一道《议汰兵疏》，将军队的现状做了归纳：现在各省军队的情况不一样，漳州泉州等地一些凶悍的士兵，以成千上万人的规模进行械斗；贵州、四川等地冗杂的军队，以勾结强盗土匪为事业，其他像吸鸦片、聚众开赌场等，各省都是这样，大体都是无事的时候游手好闲，惹是生非；有事的时就雇用无赖之徒冒充，见到敌人就望风逃溃，敌人走了就杀害百姓来邀功请赏。
所以，曾国藩提出将绿营兵兵额减少到乾隆四十五年以前的水平，将每年节省的军饷用在军事训练上，走精兵路线。
曾国藩对正规军没有信心，想要另起炉灶，所以对帮办团练一事更是毫无兴趣，反而对编练新军倒是劲头十足。
但是，满人对汉人的防范向来很严，兵权都由朝廷牢牢控制，从来不让汉人多带兵，更不允许有人像明代的戚继光那样组建“戚家军”。或许是曾国藩的奏折写得有些含糊，或许是时局已经万分危急，通过和太平军的几年较量，咸丰帝知道绿营已经靠不住了，他也希望有一支新的军事力量出现。不久，便有五百里加急信送到，咸丰亲批朱谕：“悉心办理，以资防剿。”
有了这道圣旨，曾国藩就名正言顺了，帮办团练的职责也变为编练新军了。他立刻从带来的一千团丁中挑选一百名组成亲兵队，由曾国葆统领，把剩下的湘勇分成两队，分别由罗泽南和王錱带领。
紧接着，他又在紧靠巡抚衙门的鱼塘口，新开办了一个衙门，招牌上写着“湖南审案局”五个大字。曾国藩就在这个衙门里办事，当起以安境保民为主要职责的帮办团练大臣。
虽然，曾国藩是皇上钦命的团练大臣，但是，国库不给军饷，团练的人员也要靠自己招募。要想组建团练队伍就得靠地方政府帮助，但战争时期，地方政府把银子捂得很紧，所以又很难从地方政府得到实质性的援助。说到底，这个团练大臣就是义务替咸丰招募并训练队伍的帮忙伙计。
好在曾国藩有一千多人马垫底，才摆脱了光杆司令的窘况。
未到长沙之前，曾国藩以为长沙一片歌舞升平，毕竟没有被太平军蹂躏过，可到长沙后，他才发现是个不好收拾的烂摊子，比他想象的要差好多。
怪不得，张亮基连这一千湘勇也看在了眼里，原来常年驻守湖南的正牌军队八旗和绿营都北上追击太平军去了，此时的长沙已经没几个可以打仗的兵了。
没有了兵，匪患自然就多了起来，治安简直差到了极点，光天化日之下，长沙城内土匪横行，奸淫、抢劫接连不断地发生，一时间长沙城内乱作一团。还有，长毛撤军长沙以后，长沙城内的民心大乱，大部分人都认为长毛还会打回来，长沙迟早要沦陷，城内的居民每天都在恐惧中煎熬，简直生不如死。
既要维持城内治安，又要时刻提防太平军的进攻，曾国藩必须训练出一支凶猛强悍的军队来，只有有了这样一支队伍，守住长沙才有希望。
乱世中，人人都忙着自保，靠别人是靠不住的，只有靠自己了。
既然要力保长沙不丢，还要在省城建一大团，就必须招募勇丁，否则拿什么来和凶猛的太平军对抗？
于是，曾国藩决定在长沙就地招募勇丁。一时间，长沙城内吃不饱饭的人都来报名了：有乞丐，有孤儿，有小偷，也有骗吃骗喝的小混混……
曾国藩自然不会来一个收一个，他从中选择了身强力壮的年轻人组成了团练大军，虽然这些人素质低下，但他相信通过训练，照样可以练就一支让太平军闻风丧胆的军队。
这些来报名的人，不光图一口饭吃，还眼巴巴地图着那月底的军饷。问题出现了，人少的时候，曾国藩还可以应付，如今人一下子增加了这么多，不光军饷没有着落，就是每天的饭菜都快成了问题了。
向朝廷要钱是异想天开，咸丰帝已经自顾不暇了，哪里还有功夫管这团练的事情，再说，国库早已空虚，根本没有多余的银子来给团练大臣堵窟窿。
于是，曾国藩在省城大搞募捐活动，靠募捐来的钱支撑团练的费用。这其中捐钱的人大多是地主或官僚，他们就成了办团练的经济支持者。但这些人平时都剥削惯了，如今让他们出血，简直就是要他们的命，如果不是长毛作乱，他们肯定一两银子也不会出，如今权当破财免灾吧。
吃人的嘴短，拿人的手短。曾国藩既然拿了人家的钱就要为人家办事。他挂牌的“湖南审案局”开始发挥作用了，起码要稳定长沙的局势，维护当地的治安。
治乱世，用重典