清末农民暴动多发，但穷途末路的清廷却不能拿出任何杰出的精锐部队来化解动荡。旗人军队的士兵由于生存日益轻松，长期以来把自己的身体素质懈怠的很厉害，造成清末欠缺真正的部队。而且，当时的中国土地这么大，他们没那么余心力去化解各地的动荡，所以统治阶级只建议那些有技能的官员们回老家征兵买马，化解动荡。曾国藩也是故乡发展团练的一员，但遭当地官员的阻拦。因素是什么？
曾国藩虽然后来靠着战功和训练转入了清朝的顶级官僚。但是他是一个知识分子型的人才，而且他的天份很突出。他在科举考试之中也很顺利。虽然科举考试他不是第一名，但他仍然获得了很优秀的成绩。出仕之后，先在国子监翰林院实习，后来，他还出任了兵部侍郎，可谓文武一把抓。这使他对清廷的军事实力有了更深远的了解。他明白这个国家的部队很难承担保家卫国的使命。几百年用以没有大的内战，军事力量一直在衰退。咸丰帝当时下诏令，请当时在家闲居的曾国藩帮助地区的官僚发展团练。随后的一段时间中，曾国藩回到自己老家湖南。曾国藩来以前，湖南大员张亮基已派遣地区部队把守长沙。便是源自包含其中后来清军名将李续宾带着1000人去长沙。曾国藩就是靠这1000人团体整训的。这位人才将他们分为三个营：中营、左营和右营。在这些地区团练的头头脑脑都是湘军未来的好手。
曾国藩在军事训练之中获得了不错的战绩。他在1853年弹压了几次农民暴动。但曾国藩在长沙培训军队时，因手下军队团队演练的矛盾，触怒了绿营官兵和清朝旧官僚，最终与湖南高官直接关系严峻，被迫撤离长沙。1853年9月开始，曾国藩率部赴衡阳培训军队，之后几天曾国藩率自己麾下的湘军出兵，装备攻击太平军。在衡阳的转型步骤之中，湘军初具规模，他们分别培训了水军和陆军。属于湘军的官兵1.7万余人，大小战舰361艘，国外火炮500余支，装备数千件，子弹20多万斤。从此，清朝末年赫赫有名的湘军开始起步。湘军的一般官兵大多是农民阶级，曾国藩高度称赞了农民特别是湖南山地地主的辛勤耐劳。他相信这些人很朴素，对上级的军令听从度很高。湘军具有浓厚的自身乡土依恋。湘军建军之后，为了维持部队的战力，曾国藩建议湘军军官必须向当地的湖南老乡招募。
而且，领兵的将军必须自己选出官兵和下级军官，不能让别人替他们做挑选。此外，甄选官兵也有适当的规范。因为湘军从上到指挥官和一般官兵都是湖南人，下级军官是由上级军人甄选出的，这就使下级死命效忠上级。此外，湘军多为家人、老乡等，使他们间的联系十分紧密。因此，湘军可沦为曾国藩的私有武装力量，湘军官兵以自己的血肉构建了曾国藩的宏伟心愿。从意义之上讲，太平军仍然是封建社会的部队。曾国藩根据戚继光的的兵书，成立湘军的训练模式。但是，由于时期的转型，湘军的训练方法也爆发了变动。在火器上说，湘军主要采用山炮、抬枪和小枪，但将近相距战斗的主要战斗装备仍以刀枪居多。湘军的大型战斗建制是“营”，湘军的一个营并非是是现代国防体制之中的一个营。湘军营制包含炮兵营体制、步兵营体系、马营体制和战车营体系四个领域。但湘军的主要战斗意志仍然是靠着步兵完成，步兵营制是湘军的主要战斗方式。
湘军每个步兵营有四个警戒位，分别是前后左右。该营将官的亲兵有六队，每个队伍有10名官兵。其中有的采用山炮，有的采用刀枪，有的采用小枪。。每个哨设哨官和哨长一名，下属8个小队，每队有正兵12名。因此湘军的一个营有32个小队，加上亲兵总计38个小队，建立军营之后，有专门的军官监督专责挖壕沟和修筑防卫围墙。但是，他们不需要参与作战。结合现代军队的军事建制来看，曾国藩在湖南的练兵构思是相当的科学的，能把军队的各个部分合理分配调动起来，再加上湖南老乡的血缘关系，湘军自然是晚清的强军之一。