为了建立健全的基层机构，促使役政彻底改进，1938年3 月下旬，张治中又召开了第二次兵役会议，其主要目的是“如何可以彻底解除在役政进行中人民所感到的切身痛苦？”[5 ]会议最后做出决定：要求在最短期间把地方匪患、兵役舞弊两个问题解决了。之后，张治中惩办了几个渎职的役政人员，并且在法令上，在制度上多方部勒，于是役政渐见起色。后来，为了杜绝弊端，安定民心，又订定征集国民兵总抽鉴办法加以施行。为了进一步治本，张治中下令动员有德、敢做敢为的知识青年，做彻底改进基层机构。经过张治中的这一系列努力，湖南的役政走上了正轨，最终使役政问题得到了比较圆满的解决。这种圆满的解决，不但为作战部队提供了充足合格的兵源，支援了抗战，而且也解决了地方上的痛苦，起到了安定后方人民生活，保障工农业生产的作用，同时也为解决匪患问题做出了贡献。
    匪患问题的处理。湖南的土匪是相当有名的，湘西的土匪更是格外突出。那里地区宽广，地势险要，地形复杂，山高势陡，纵横绵亘不断，林木茂密，洞穴相连，交通极不方便，便于土匪盘踞。在那里，土匪特别猖獗，他们打家劫舍，强取豪夺，匪患之炽，使善良民众痛苦连天。他们有田不能耕，有家不能回，甚至有路不能行。人民不断发出“安定地方”的呼吁。
    张治中上任后，就开始了解决匪患的工作。他首先分析了造成匪患及其蔓延的原因，指出：“匪患之所以滋生与蔓延，其主要原因是政治领导的不得其法，人民真正自卫力量的不得其用。明白地说，就是因为政治的黑暗与腐败，所以才产生土匪，又因为人民本身力量太薄弱，不能够实行自卫，所以匪患蔓延。”[6]基于以上的分析，张治中提出了相应的治标治本措施：用清剿收编来治标，以清明政治改造社会，消除政治上的“官逼民反”因素；武装人民的力量，开发资源，改善人民的生活，并施以教育，从而转移风气等办法根除匪患。张治中指出：最简洁的方法就是，用剿抚兼施的方法设法澄清。为了便于处置，设置了湘西绥靖处（后改为省府沅陵行署），以陈渠珍为主任，负责收剿工作。此外，还组织和武装了民众，实行自卫。这样，经过艰苦的工作，匪患有所减轻。这对稳定秩序，安定人民生活，促进生产力的发展，无疑都起了重大的作用。
    （二）治理社会风气以转变颓风末俗
    张治中到湖南后最初的目标是“建设一个新时代的湖南”，他始终依循两个原则，以做“经纬”，一个是“军事第一”，一个是“风气为先”，他认为“要树立一种新风气，来培育护持新政治的力量，即以这一新政治的力量支持抗战，奠定复兴民族国家的基础”，以便“改造旧社会，建设新湖南”。只有这样，才可以促进事业的成功；而颓风恶习则可导致生活的恶性发展乃至事业的惨败。这一点，张治中是非常明白的。他深知，要想在湖南有所作为，实现造成政治现代化的三民主义的新湖南的宏伟蓝图，就应树立良好的社会风气。因此，张治中主政湖南后便开始了转变官风和民风的行动。
    首先，张治中是从转变官风开始的。他深知：社会风气之坏，总是从官场坏起的道理。因此他上任伊始，就决心整顿官风。尤其当其得知湖南官吏“沉迷赌局，贻误要公，或甚流于贪渎”[7]后，更坚定了改革官风的决心。
    严刹公务人员的赌风。针对长沙赌风盛行，打牌成为公务人员“调剂精神的经常娱乐”，社会也以豪赌作为正当社交的恶劣风气，张治中于1938年1月中旬颁布了严禁公务人员赌博令，严刹赌风。而后， 开始惩处那些违法者。对于因赌博而侵占国家巨款者，一概进行逮捕查办；而对那些罪大恶极的首犯，干脆处以死刑。如处死以“神仙”称号活跃于长沙上层社会，具有相当政治潜力的巨憝恶骗周仲评，即是典型之例。这就扫除了邪说异端的存在，扫荡了九流三教、左道旁门在社会政治上的败坏世道人心的影响。
    严惩贪污分子。对于以公谋私，利用自己职务方便侵占公款的贪官，张治中是绝不姑息的，如有发现，一律处死。1938年3月18日， 新任税务局赋税主任车衡因侵占公款、枉法贪污被处死。为了进一步严惩贪污分子，1938年3月26日，张治中又在十四次省府委员会常务会上， 提出了惩治贪污的单行法令--《湖南省惩治文武公务人员贪污暂行条例》，通过后加以公布实施。以后，又于1938年6月，在巡视湘西途中， 将办理征工修建飞机场事务中，收贿舞弊供证确凿的监工员唐立成枪决。7月，又将侵占公款、抗匿不缴的卸任华容财政局长张作典处以死刑。 这些措施对刹住贪污之风起到了相当大的作用。同时，对平抑民愤，建立廉洁政治乃至建设湖南都起到了重大的作用。
    查办渎职。对于那些玩忽职守，犯渎职罪者，张治中也采取了果断措施，予以撤职查办。湖南省公路局长周凤九玩忽职守，致使路局管理腐败，纪律废弛，站员缺乏责任心，站役缺乏训练，其本人对发生的惨案拒不上报。经查核，予以撤职查办。类似例子还有很多，这就给那些有所懈怠者敲响了警钟，使他们不得不悬崖勒马而勤于政事，这样地方政务也就好多了。
    另外，张治中还从对下层组织的改革上革除旧习，以利于风气的根本好转。他认为：“我们对于各种下层组织，要求其十分严密而有力，可以作为领导民众之基础。同时，领导的人物一定要有良好的品格，……这样来感化一切，运用政治方式达成一切，将来自然而然可以养成一种新风，一种处处为国家民族利益着想的新风气。”按照这样的思想，张治中进行了基层组织的改革与治理，包括新县制的推行及在乡级机关推行民主风气。