除军事外，骆秉章、左宗棠又努力改革湖南的吏治。骆秉章督湖南之前，湘省官吏和清廷治下其他省份大致相当，＂天下乌鸦一般黑＂，多数是苟且昏庸、贪污自肥的昏官。张亮基主政时期，左宗棠就一针见血地指出，剿匪是治标，改革吏治，才是治本，“吏治不修，故贼民四起。此时再不严治奸民，慎择牧令，事更不堪问矣！”
骆秉章执政后，开始努力改革湖南的吏治，争取境内清平无事，成为湘军稳固的大后方。骆秉章才干平庸，在整顿吏治上却有他的先天优势。骆本人政治操守好，清正廉洁，郭嵩焘就说他是“利不足以动其心，阿谀谄附不足介其意”，满人崇实也说，骆大人“第一不可及曰清操，而才略尚在其次，最能推诚用人”。长官清廉，自然容易推行廉政，长官善用人，人才也容易出头。除骆秉章外，湖南掌管人事任免的藩司文格、幕僚左宗棠都是清官的模范，上行下效，吏治开始大有改观。
在国家整体形势衰微的情况下，全体官员多少都有贪污受贿的案底，若一查到底，有案即诛，要么是将官场变成屠场，要么就是部下群起攻之，“反了”，“带队投长毛去也”！严格依法办事，彻底杜绝贪污，说起来好听，实际是小白的办法，官场内部，关系错综复杂，牵一发而动全身，没有大智慧确实难办。骆、左整顿官场，首先是按传统经验，奖清官，树立风气，诛巨恶，以警告各级官员：变天了，大家收敛一点。对于其他情节并不特别严重的小贪，骆、左既往而不咎，希望今后大家客气合作就是。这个举措收到了初步的成效，湖南官员贪污的风气有所改观。
“宁遇贪官，莫遇昏官”，这是小老百姓的至理名言。有的官员不贪不墨，就是脑子糊涂，办不成事，甚至成事不足，败事有余，比贪官的危害还大。贪污之风刹住后，骆秉章开始裁汰糊涂青天老爷，他以“年力衰颓”、“材质拘迂”的理由，革除了巴陵、新化、黔阳、桃源、龙阳、嘉禾、东安、宁乡、临武等地县令，澧州知州等大员也在被参革之列。地方上办团练和搞捐输有功的夏廷樾、黄淳熙、朱孙诒等人都被保举任官。骆秉章保举的这些官员，才干都有可观之处，朱孙诒办团，办水师都很能干，夏廷樾则是个捕盗能手。黄淳熙为官名声很好，“廉明静敛”，他的上司却对他十分讨厌，于是黄县令辞官回家。骆秉章知道后，步行百里到黄淳熙住处苦劝黄淳熙复官。巡抚亲自上门恳请属吏复官，这在等级森严的清代官场是少见的。骆秉章的举动，在湖南引起很大的震动，读书人都将他视为当代的刘皇叔，乐于为他效劳。
除了调教属官外，骆、左大大提升了地方绅士对政权的参与程度。地方绅士，熟悉地方民情，有强大的家族为后盾，办事便捷；有殷实的家产，又多数都是读书士子，气节甚高，一般不会贪污，又乐于为地方办事；有地方实力支持的绅士，在新政策下起来办团练，开厘金局，掌握了军权和财政权，构成了对地方官员的牵制。在曾国藩的提倡下，团练的头目，也就是地方的绅士们开始捕盗杀人，审案断狱。地方官员对此很抵触，但骆秉章对团练头目们“请无不听”，使得这种局面进一步扩大。地方上的绅士有的甚至能动员数百上千人起来修路筑碉，攻打数百土匪啸聚的山寨，不少地方的官员成了乡绅的傀儡，“事由局而不由官，权在绅而不在官”。应该承认，湖南地方绅士比地方官员更加有才干，在他们的铁腕统治下，土匪绝迹、地方清平，甚至“夜不闭户、无赖遁迹”。
在书生和乡绅支持下，左宗棠又改革了湖南境内的财税制度，湘省经济形势好转，足以支撑大兵团出省作战，贵州、广西攻入湖南境内的起义军和湖南本土的悍匪，都被王錱、刘腾鸿等人剿灭，湖南正式成为湘军稳固的大后方。
大本营稳固了，湘省大员开始着手扩军建军。湖南拨给曾国藩白银八十万两，建造舰船二百艘，充实内湖水师，新练李元度、林源恩平江勇五六千人，曾国华等军四五千人并入曾国藩的指挥体系，又充实李续宾、蒋益澧等军，加上前文所提及的各系湘军部队的组建，累计六万余名湘军在湖北江西战场上展开反攻。李续宾、蒋益醴等人首先发难，在鲁家巷大败石达开，胡林翼乘势击败韦俊，夺占武昌。湘军在湖北声势浩大，唯独在江西被动挨打，连吃败仗，曾国藩“呼救无从，中宵念此，魂梦屡惊”，连左宗棠都认为，“江西事恐不可为，以民心全变，大势已去也。”
石达开，曾国藩的克星。石达开的江西，难道真是湘军的滑铁卢？
