季诺维也夫和加米涅夫被判刑以后，联共（布）中央又给各地党组织下达了一封密信，题为《关于同基洛夫同志被凶残杀害相关事件的后果》。密信马上断定，谋杀是由托洛茨基分子和季诺维也夫分子卷入的一个阴谋，号召在党内追究一切与托、季有牵连的人员及其同情者。经过对季、加步步审讯逼供，到1935年以后，所有反对派参加者都被指控参与恐怖活动或同该活动有染。
    就是在这个节骨眼上，斯大林在一封信中指出，在党的历史上还存在过其他各种反党集团，他列举了“托洛茨基派”、“民主集中派”、“工人反对派”、“右倾派”和“左右杂俎派”。并且指示，所有这些派别都应该是追查的对象。于是，各地方组织便把怀疑的目标对准了所有在各个不同时期反对过斯大林领导并发表过不同意见的共产党员。
    在有关基洛夫被杀的官方说词中，仿佛谋杀是由一个持假党证的人潜入基洛夫办公地点所进行的一次行凶。于是在斯大林的倡议下，便掀起了一场检查党证运动。
    这场运动始于1935年5月，迄于同年12月。 形式上是一项检查党证及其登录卡片真伪的工作，实际上是以审查党员、换发党证为中心，伴之以逮捕的清党运动。运动由以叶若夫为首的中央干部总管理局领导，并由内务部协同行动。一些党员经审查被开除出党后，接着就被逮捕。1935年12月，中央领导对叶若夫有关运动结果的总结表示不满，又延长了运动期限。运动的结果，审查了81%的党员。其中9%被开除出党。 （注：〔俄〕B.п。德米特连柯主编：《20世纪俄罗斯史》，第379页。）中央预计驱逐托洛茨基分子和季诺维也夫分子的计划没有完成，因为只有被开除党员总数的3%属于这个集团。这表明，实际存在的托、 季分子并不像中央估计的那样多，但中央领导认为，这是因为各地方党组织中有人故意作梗，在抵制中央方针的贯彻执行。
    检查党证运动除收集了大量诋毁党员的档案材料外，肃反人员又将被开除者逐一登记造册，立案侦查，其中许多人被以各种借口逮捕。据叶若夫向中央全会的报告，依据不完全资料，到1935年12月1日， 与被开除党籍相关而遭到逮捕的有15218人， 揭发出了上百个“敌对组织和集团”；（注：俄罗斯现代史文献收藏使用中心档案馆：第17 库， 第120卷宗，第177分卷，第22页。）在检查党证过程中没收党证几乎达25万张。（注：〔苏〕奥·赫列弗纽克：《政治局--30年代的政权机制》，第148页。）这样，通过这次运动， 安全机关就在手里实际上掌握了各个不同的时期在各种问题上对“总路线”有所异议的所有党员的材料：这些党员的材料和“帽子”被安全机关拿在手里，何时扣上只是时机问题了。同时，中央领导在运动中也掌握了各地组织及其领导人对其方针的各种态度。这就为日后开展的“大清洗”作了全面的准备和铺垫。
    除前述“十二月一日法令”外，1935年3 月通过了一项惩治叛国分子家属的法令，4月颁布了准许判处12岁以上儿童刑事罪的指令，6 月9日，又通过了对任何叛逃国外的苏联公民判处死刑的法令，而对任何知情不报者则处以监禁。这样，通过收集有关各类具有潜在反对派情绪的材料（主要是被开除党籍者），通过侦查各地党政领导人对中央采取消极抵制或具有抗上情绪的情况，通过强化政治案件的律条，加上1935年秋开展斯达汉诺夫运动以后工矿企业事故连续不断，追究“破坏分子”、“怠工行为”的浪潮一浪高过一浪，而这时国际局势的紧张又使苏联领导人越发对联合民主国家，制止法西斯侵略的可能性打上问号--所有这些情况，就使苏联最高领导人最后作出了迈向“大清洗”的决策。
    “大清洗”运动的进程
    1936年7月29日， 中央书记处向各地组织下达了联共（布）中央《关于托洛茨基--季诺维也夫反革命集团恐怖活动》的密信，以此揭开了“大清洗”运动的序幕。密信以通过刑讯逼供取得的口供为根据，列述了托、季直接勾结，实施恐怖活动的“事实”，在审判前已经把他们“罪行”的结论昭告全党。接着，在1936年8月19～24 日进行的莫斯科第一次公开审判--对“托--季反苏联合中心”案的审判，只是个过场和形式而已。这个案件由苏联最高法院军事审判庭审理，把季诺维也夫、加米涅夫等16人交付审判。所有被告都承认不仅是信念上，而且行动上同身处国外的托洛茨基有联系，并参加了对基洛夫的谋杀，还阴谋杀害斯大林和其他苏联领导人。他们还供认，其他前反对派成员--布哈林、托姆斯基、李可夫、拉狄克、皮达可夫、索柯里尼可夫和谢列布里亚柯夫等，都参加了反革命阴谋。24日，所有被告被判死刑，并立即执行枪决。
    如果说上述联共（布）中央的密信是在党内对“大清洗”所做的一次动员的话，那么，莫斯科第一次公开审判则是对苏联全社会所做的一次大动员。这次审判确认了托、季阴谋存在的事实，而从这一点又成了舆论动员的出发点。在这次公开审判期间或其后，全国上下举行了成千上万的各种群众集会，一齐声讨托--季阴谋，并作出决议，誓同“阴谋分子”斗争到底。这对造成既成事实，发动舆论、动员社会，起了巨大作用。
    但是，以雅戈达为首的内务部清楚地知道，非但把托--季反对派与杀害基洛夫联系起来是牵强附会的，而将这一谋杀案同“右倾”反对派挂起钩来，更是捕风捉影。因此，在雅戈达内务部方面，力图限制这次审判的政治后果。他们把这一与党的干部根本不相干的“暴徒谋杀”，归结为一场普普通通的恐怖事件。在他们看来，审判举行了，案犯惩治了，代表一个不大的托--季集团的敌人已被揭露，事情就算完结，不能再让事态进一步扩大。但在“托--季反苏联合中心”案的审理过程中已在干扰内务部工作的叶若夫，却力图扩大被告范围，对那些被怀疑抵制中央指令的党内干部和经济管理人员施行打击。斯大林在以雅戈达内务部为一方，以叶若夫为另一方的这场争执中，明确地站在后者一边。