吴忠在机关和部队建立了严格的主官和参谋人员培训制度，定期或不定期举办集训班。从毛泽东军事思想到人民军队作战原则，从现代战争理论到军兵种常识，从条令、条例到分队战术，集训班的授课内容无所不包。集训方式也不拘一格，有课堂教学，有分组讨论，有现场作业，也有实际操作。
     军官的技术培训也是一道难关。吴忠要求全师各级干部一年内都要“学会使用各种新式武器装备，学会驾驶各种车辆，会运用各种通讯手段”，尤其是技术兵种的干部，必须每人都“会驾驶、懂电台、能射击、善管理”。
     有人感到这个标准定得太高了，一年之内难以达到。吴忠把眼睛一瞪，说：“你以为手里拿的还是‘七斤半’（指步枪）啊，现在你指挥的是坦克、大炮、装甲车，连手中的装备都不明白，怎么抓好部队的管理和训练，又怎么指挥部队打仗？不懂技术，就不配做机械化师的干部，更不配做机械化师的指挥员！从我这个师长开始，一年之内，谁不会驾驶，谁不懂技术，卷铺盖滚蛋。机械化师不养混饭吃的闲人！”
     吴忠本来就对新事物充满兴趣，遇到新鲜玩意必要动手摆弄一番，现在学习新技术、新装备，更是“磨刀霍霍”，简直到了废寝忘食的地步。解放战争期间，他与国民党军的装甲部队交过手，吃够了坦克的亏。现在自己手下已经有了坦克团、坦克营，而且是当时比较先进的苏制T－34坦克，吴忠真是心花怒放，将其视若掌上明珠。他宣布：“两个月内，我必学会开坦克和射击。”他迷上了坦克，学驾驶，练射击。两个月后，他不仅学会了坦克驾驶和射击的技术，还获得了坦克等级驾驶员证书。
     吴忠学技术的劲头从此一发而不可收。他每次到部队检查工作，见到新装备和设备他就问，就学，就亲自动手操作。无论是军官还是列兵，只要懂技术的，都是他的老师。他说：“要学真功夫，首先得有个厚脸皮，拜能者为师，不耻下问。”经过半年多的学习钻研，吴忠基本上掌握了机械化师配备的各种装备的操作技术。
     就这样，吴忠真正由“外行”领导变成了“内行”领导。他亲自审定全师的训练内容，确定训练方法，制定考核制度，亲自到各部队考核训练成果。
     在这期间，1955年9月27日下午，中国人民解放军在北京中南海紫光阁西边的国务院礼堂隆重举行了首批将官军衔授予典礼。年仅33岁的吴忠也被授予少将军衔，从而成为我军首批1044颗璀璨将星中为数极少的以师长身份被授少将军衔的解放军军官。在随后举行的中国人民解放军授勋典礼上，吴忠又荣获三级八一勋章、二级独立自由勋章、二级解放勋章。
     面对党和人民给予的巨大荣誉，吴忠没有骄傲，他以更大的激情投入到了机械化师的训练中，并取得了丰硕成果。1957年秋季，在团战术合练的基础上，吴忠主持进行了第一次师级规模的实兵、实弹战术演习--“辽东半岛抗登陆”演习。这次演习取得了圆满成功，受到前来参观学习的总部、军区首长的高度评价，称第一机械化师“已成为拉得动、展得开、合得拢、打得响、转得快的部队”。就这样，仅用两年多时间，这支新组建的机械化部队就形成了战斗力，完成了师合成战术实兵演习，提前一年实现了吴忠提出的奋斗目标。
     在成绩面前，吴忠没有自满，他率领全师官兵戒骄戒躁，在总结经验的基础上，通过新的演习、合练，进一步提高了机械化师的合成作战能力，并于1958年秋天成功地进行了第二次师级规模的实兵、实弹战术演习--“滨海防御战役中机械化师作战”演习。第一机械化师白手起家，逐渐发展为人民解放军的一支铁甲雄师，为人民解放军的现代化和正规化建设积累了宝贵的经验。
     无怨无悔为革命1970年7月升任北京卫戍区司令员后，吴忠因其执掌首都防务大权的特殊性，又一次被推到了政治斗争的风口浪尖上。但他坚持原则，始终不渝地坚持党对军队的绝对领导，绝不为林彪反革命集团以及随后“四人帮”集团的威逼利诱所动。
     “九一三事件”后，在周恩来的直接指挥下，吴忠迅速调集卫戍部队加强了对重点单位、要害目标的警卫。随后，吴忠又为查封林彪集团的黑据点、搜集其罪证做了许多卓有成效的工作，在这场关系到党和国家命运的决战中立了大功。他在粉碎林彪反革命集团中的杰出表现受到了毛泽东的赞许。1973年12月，人民解放军八大军区司令员对调，毛泽东在接见军委委员和各大军区司令员时，还动情地握着吴忠的手对在座的解放军高级将领说：“吴忠有忠啊！”稍后，吴忠又参加了粉碎“四人帮”的行动，并发挥了重要作用。
     1977年9月，吴忠被任命为广州军区副司令员。他上任后不久，边境地区形势日趋紧张。作为分管作战事务的副司令，根据军区党委的决定，吴忠于1978年夏天前往广西，视察边境地区的战备工作。这年底，边境自卫还击战开始，吴忠主动向军区党委请战并获得批准，负责统一指挥广州军区南集团部队，担负主要战役突击任务。