1952年1月5日，毛泽东主席批准了《军事整编计划》。从此，全军第二次大规模精简整编工作全面展开。在周恩来副主席和聂荣臻代总参谋长的领导和组织下，第二次精简工作至1952年底结束，全军共缩减3个兵团、19个军、73个师。通过精简整编，国防部队在1951年底的基础上精简了28.3%，公安部队精简了31.6%，大幅度压缩了步兵和机关人员，全军共精简了219.9万余人。加强了海军、空军、特种兵和院校。全军总人数降为406.4万余人。军费开支大幅下降。
     这次精简共集体转业了40个师，其中有12个师、21万部队分别转入铁路、水利、林业、建筑等环境条件艰苦的岗位，有19个师的部队编为农垦部队。此外还复员了160万人。聂荣臻元帅在回忆录中满怀深情地说：“我军广大指战员，南征北战，战争刚刚结束，就置个人和家庭的困难于不顾，立即投入艰苦的生产劳动，为医治多年的战争创伤，渡过经济难关，流下了大量汗水。他们这种崇高的爱国主义精神，至今回忆起来，仍使我们感动不已。”
     国防军转为屯垦军，新疆生产建设兵团是成功范例。1950年1月21日，新疆军区发布命令，号召驻疆部队全体军人全部参加劳动生产，要在当年开荒种地4万公顷。第二军向塔里木盆地的塔克拉玛干大沙漠进军，拟定了种地13000多公顷的计划；第六军向准噶尔大戈壁开战，计划开荒8000多公顷；第五军决定在伊犁、塔城、乌苏一带种地3300多公顷；陶峙岳将军率领的第二十二兵团则计划完成种地13000多公顷。1950年1年，新疆军队70%的人员参加了农业生产，迈开了屯垦事业的艰难的一步。1950年，驻疆部队全体官兵开荒85万亩，实现了粮食基本自给，油料全部自给。
     1952年底至1953年上半年，按照党中央的战略部署，新疆军区以代司令员王震、代政委王恩茂的名义颁发命令，将驻新疆人民解放军整编为国防部队和生产部队两部分。编为生产部队的是第一兵团第二、六军和第五军大部以及第二十二兵团全部。1954年8月6日，根据新疆分局和新疆军区的建议，中央军委决定第二十二兵团与新疆军区生产管理部合并，成立新疆军区生产建设兵团。10月7日，新疆军区生产建设兵团正式成立，共计10.55万人。陶峙岳任司令员，新疆分局书记王恩茂兼任政委。
     驻疆部队官兵在准噶尔、塔里木和天山南北的戈壁荒漠上开发出了大片新绿洲，建起了一座座新型的现代农场，创建了新疆第一批现代工厂，培养了新疆第一代产业工人，建起了石河子、奎屯、五家渠、北屯、阿拉尔等新城。
    1954年至1955年，第三次精简整编
    朝鲜停战实现和国内大规模的剿匪作战基本结束后，1953 年8月28日，中共中央、中央军委，面对国民经济第一个五年计划已全面展开等大好形势，决定对人民解放军再一次进行精简整编。中共中央和中央军委发出了“军事系统（包括公安部队）应在整顿组织、精简机构和冗员、加强技术训练、提高部队质量的基础上，大力缩减军费开支”的紧急通知。《通知》要求军费减少3万亿元。毛泽东还提出今后的军政费用在国家财政支出中不得超过30%的要求。一方面要建设一支优良的现代化军队，另一方面又要大大减少军费，这是一个尖锐的矛盾，是一个很大的难题。
     主持军委日常工作的军委副主席彭德怀连续召开扩大的军委例会，研讨精简整编的工作方针、原则、措施等问题。彭德怀提出了这次精简的原则：国家武装部队的总数应保持一个适当的数量，太少会削弱国家现实的防御力量；过多则增加财政负担，影响经济建设。为了在裁减人员的同时，能保持和提高部队战斗力，应多减机关、少减部队，多减步兵、少减特种兵，多减战士、少减干部，增建学校。9月8日，彭德怀向毛泽东作了书面报告，建议修改1952年的军队建设五年计划，常备军总额应定为350万人，在两年内实现。毛泽东批准了彭德怀的报告。
     为统一思想认识，解决军队建设面临的重大问题，彭德怀向毛泽东建议召开一次有各大军区、各军兵种领导同志参加的军事会议，毛泽东批准了他的建议。在彭德怀主持下，高干会议于1953年12月7日至1954年1月26日召开。会议对建国以来的军事工作作了总结，同时，结合党在过渡时期总路线，确定了军事建设的总方针、总任务。这次会议对于统一全军思想，完成军队建设由低级阶段向高级阶段转变，具有划时代的意义，是人民解放军全面开展革命化、现代化、正规化建设的重要标志。
     彭德怀代表军委作了《四年来的军事工作总结和今后军事建设上的几个基本问题》的报告，阐述了军队建设十个方面的基本问题。会议确定人民解放军建设的总方针、总任务为：建设世界上优良的现代化革命军队，以保卫我国社会主义建设，防御帝国主义的侵略。
     高干会议对军队建设与经济建设的关系作出了正确的回答。会议提出，首先集中资金，发展国家工业特别是重工业，通过工业的发展，提高军队的技术装备水平。彭德怀说：“现代化的军队必须有现代化的装备（包括飞机、各种舰艇、各种大炮、各种坦克、各种车辆、各种雷达、通讯设备和各种军需品）和现代化的交通工具（飞机、铁路、火车、公路、汽车、轮船），这些不是单靠国外订货所能解决的，必须建立我们国家自己的工业，特别是重工业。如果没有重工业，没有现代装备来武装我们的军队，则我国和我军仍将处在落后状态，而落后照例是要挨打的。建设重工业，就需要大量的投资。如果我们的军费同过去一样仍占国家开支的很大比例，不能挤出钱来投资于工业，则重工业建设是不可能的。”