阎锡山觉得这些还不够，又组织了“亚洲民族革命同志会”(简称“亚民会”，也称“亚盟会”)，将所有被留下的日本人都吸收到这个组织中。办理这个组织的负责人是徐士珙和城野宏。阎锡山对参加该组织的日本人说：“中日两国原系同文同种，都是亚洲民族，应该精诚团结，密切合作，共同'防共'、'灭共'。只有这样，中日两国，才能'共存共荣'。”此外还组织了“日侨管理处”作为管理军队以外日本侨民的机关，徐士珙也是该组织的负责人。
     残留下来的日本人，开始被编成6个护路大队，实数约5000余人。他们分驻太原、榆次、晋源、阳泉等地，归护路司令赵承绶、副司令元全福(元泉馨)、参谋长于复国(岩田清一)指挥，担任守护、抢修铁路交通线和掩护运输以及作为阎军的机动预备队，配合阎军进行反共的内战。
     随后，阎锡山同日军商定了以“特务团”名义改组日军的计划。该计划是在日军第1军司令部设9个步兵团，加上特科队、医院、生产机构等共约1.5万人，大体相当于一个师团。并设想以此为骨干，组成3种部队：全由日本人组成的部队；只有指挥官和基干人员是日本人，而其他是中国人的部队；全部是中国人，但置于日本的编制内，并接受日本人指挥的部队。这三类部队总数预定为6万人。1946年2月，按照阎锡山的旨意，以日军第1军的名义下达了组编“特务团”的命令，每个旅团各自组建1个步兵团(联队)，在司令部组建1个由各兵团选拔的士兵组成的步兵团。“特务团”司令部从第1军司令部分出，并设立政治部。日军第114师团师团长山浦三郎中将被指定为残留日军司令官，该师团参谋太田黑少佐为司令部参谋(因山浦三郎住榆次，实际负责人是岩田)，城野宏则负责政治工作。
     1947年，“特务团”改编为暂编独立第10总队，由今村方策出任总司令。元全福被阎锡山任命为野战军副司令，岩田兼任炮兵指挥处的指挥。根据阎锡山的提议，在太原小北门内还办了日本人的士官学校，由岩田负责。
     此外，阎锡山在大同，也“残留”日军近千名(原系坂本部队未遣返者)，成立了1个“大同保安总队”。总队长为日本人林大佐(改名陈丰山)，副总队长为日本人武威，下辖3个大队。1947年下半年改编为“大同教导总队”。阎锡山还将在大同“残留”下来的战车队编为“大同坦克队”，下辖3个小队，战车约20余辆。在阎锡山的“碉堡建设局”中，也留用了日本技术人员200多人，担任各碉堡区构筑洋灰钢筋工事的技术指导。