阎锡山也深知他的这种做法是违背中华民族利益和波茨坦公告精神的。为了欺骗舆论，他将日军武器上的特别标志“菊花”去掉，打上“晋”字钢印，又将日军出操时架枪的情况拍成照片送报国民党政府。蒋介石对阎锡山这种行径不仅不加以追究，反授以“受降模范者”的称号。
     “残留运动”也遭到了许多日本人的抵制和反对。阎锡山为了笼络日本人和达到自己的目的，不断地在变换花样和作法。1945年10月，他召集他的亲信开会讨论办法。阎说：“对全部日本人留用问题，我一再和他们(指澄田、山冈)商议，他们始终不敢接受，只说可以由我们'个别发动'。我想，从他们的中下级来个'个别发动'，优予留用的办法，还是可以成功的”。“我们为了存在，非有一个非常的办法不可。现在我们的兵力不够，应付不了共产党。为了充实兵力，只得招兵，但招兵又有困难，即使招来十万中国兵，也顶不住一万日本人。你们应该好好努力，分头动员，设法争取，越快越好。”阎锡山要苏体仁和梁上椿，以“接收委员”的名义，专门向澄田、山冈两日酋进行联系，请他们从中协助，并予以指导；要梁武、张文照专门作日军中下级军官的争取工作。阎锡山嘱咐他们“千万不可用强迫的办法，一定要用'合谋'的形式，与人家好好商量，进行工作”。
    为了做好“合谋”的工作，阎锡山还提出立即成立一个“合谋社”作为发动日本人的专门机构，并由赵承绶代表他督导这一工作。
     不久，在太原市海子边原“日华俱乐部”门口挂起了“第二战区司令部合谋社”的招牌。梁武和徐咸寿(阎的内亲徐士珙之侄)分任正副社长。“合谋社”中设军事、经济、总务和文化四个组。军事组专负发动留用日本人之责；经济组专负收集处理日本人的遗留物资和保护日本商人照常营业之责；总务组专负收发文件、秘书工作及翻译工作和其他一切事务之责；文化组专负对内对外宣传解释和专替日本人组织娱乐之责。积极主张日军“残留”山西的日本军官城野宏、岩田清一和元泉馨(后改元全福)等人都被吸收到“合谋社”工作。城野宏担任军事组组长，负责发动工作。岩田清一(改名于复国)，负责对下级军官和士兵的动员工作。元泉馨原为日军驻上党第14混成旅团少将旅团长，是在山西的日本上层参加“残留运动”最积极人物。他向阎锡山表示“愿立刻脱掉日本军服，帮助阎阁下进行'剿共'战争，死而不悔”，因而被阎大为称赞，引为“同志”，委为太原“绥靖”公署中将顾问。“合谋社”出版了《晋风》等杂志，刊印了城野宏撰写的《日本人的立场》的小册子。这个小册子从理论上论证了“残留”运动的意义，被分发到日军和日本侨民中。“合谋社”中还吸收了一批日军“骨干”分子，如小田切正男、永福浩喜和小林正孝等，他们被分到日军各部队或山西产业、华北交通等企业团体和侨民中去宣传“残留运动”。