与此同时，太原市日本居留民，接到山西日本派遣第1军司令部的一份通知书：
    “山西派遣军经晋绥军之请求，特留一部分兵力于山西，协助晋绥军剿共。居留民原拟赴北京者，可暂留太原。”
     这样，日军在太原街头又猖獗起来。“日本并未战败，再过十年，将卷土重来”的谣言到处流传着，日军屠杀我国同胞事也间有发生。
     不仅在太原，在临汾、大同、长治以及山西其他日军侵占区，莫不如此。阎锡山派梁培璜、楚溪春到临汾和大同后，分别与这里的日军司令官山蒲三郎和板本吉太郎商定：同蒲路与正太路之防务，主要仍由日军担任守备，晋绥军担任掩护铁路运输，并共同防御八路军之“侵犯”。这样，日军大部分仍然穿着原来的军服，荷枪实弹，往来巡逻于街头巷尾。
     城野宏对从日本投降到阎锡山重用日军这段时间日本人的心理状态和行动表现作了下列描述：“过去耸着肩膀、挺起胸膛的看起来实在是威武不屈的日本人，从战败的一瞬间起，意外地失去精神，大有无精打采、丧魂落魄之感，而从前不敢抬头、提心吊胆的中国人，迅速出现了生气勃勃的表情和动作，看起来实在是不可思议的。”“过去作为统治者君临中国、对中国人采取相当残酷做法的人，想到肯定马上就会受到报复，从而产生了毛骨悚然的不安之感”。“可是这样的事态并未发生。起初，作为个别情况，曾出现了占领几个人的住宅的事件，但阎锡山回到太原，日本人的残留工作一经开始，这种现象就完全杜绝了。这时，日本人不仅能大摇大摆地活动，而且重新在阎方担任职务的人，其薪俸相当于同级中国人的两倍。因此，日本人方面所谓‘战败国民’的自卑感，不知不觉地消失了，在中国方面也并未出现采取作为战胜国那种傲慢的统治者态度的气氛和环境。不仅如此，日本人方面又出现过去那种我们是优秀民族、指导民族的思想和态度，……”。
     阎锡山也深知他的这种做法是违背中华民族利益和波茨坦公告精神的。为了欺骗舆论，他将日军武器上的特别标志“菊花”去掉，打上“晋”字钢印，又将日军出操时架枪的情况拍成照片送报国民党政府。蒋介石对阎锡山这种行径不仅不加以追究，反授以“受降模范者”的称号。
     “残留运动”也遭到了许多日本人的抵制和反对。阎锡山为了笼络日本人和达到自己的目的，不断地在变换花样和作法。1945年10月，他召集他的亲信开会讨论办法。阎说：“对全部日本人留用问题，我一再和他们(指澄田、山冈)商议，他们始终不敢接受，只说可以由我们‘个别发动’。我想，从他们的中下级来个‘个别发动’，优予留用的办法，还是可以成功的”。“我们为了存在，非有一个非常的办法不可。现在我们的兵力不够，应付不了共产党。为了充实兵力，只得招兵，但招兵又有困难，即使招来十万中国兵，也顶不住一万日本人。你们应该好好努力，分头动员，设法争取，越快越好。” 阎锡山要苏体仁和梁上椿，以“接收委员”的名义，专门向澄田、山冈两日酋进行联系，请他们从中协助，并予以指导；要梁■武、张文照专门作日军中下级军官的争取工作。阎锡山嘱咐他们“千万不可用强迫的办法，一定要用‘合谋’的形式，与人家好好商量，进行工作”。