恰在这期间，在1936年9月23日，克麦罗沃矿区连续发生爆炸。 正在索契休养的斯大林和日丹诺夫，借机于9月25 日给莫斯科发回一封联名电报，电文说：“我们认为，任命叶若夫同志为内务部人民委员之职是绝对必要和紧急的事情。雅戈达明显不能胜任揭露托--季集团的任务。国家保卫局在这件事情上已经迟延了四年。”（注：〔苏〕《恢复名誉--30～50年代政治审判案》，第33页。）目前从现有档案中尚无法知道这个重大任免事项，经由政治局委员表决没有（注：俄罗斯现代史文献收藏使用中心档案馆，第17库，第63卷宗，第1123分卷， 第146～147页。）， 但由在莫斯科主持政治局日常工作的卡冈诺维奇立即形成文件，于9月30日完成，则是一清二楚的。
    对叶若夫这一任命，进一步为“大清洗”提供了组织保证。此前，在政治局有重要份量的奥尔忠尼启泽，因和卡冈诺维奇保持着友谊关系，并在某种程度上同雅戈达的内务部有着某种默契，因而阻滞了大规模的清洗。但9月底对叶若夫的任命，打破了这种平衡。（注：〔英〕E.A.里斯：《斯大林主义与苏联的铁路运输（1928～1941）， 伦敦、 纽约1995年俄文版，第147、148、150、158、159页。）接着在10月间， 奥尔忠尼启泽在重工业人民委员部得力的副手皮达可夫，和在交通和煤炭工业部门任负责人的其他前托洛茨基分子索柯里尼科夫、拉狄克等，遭到逮捕。1937年1月23～30日，以他们为打击对象， 进行了莫斯科第二次公开审判--对“托洛茨基反苏平行中心”的审判。这次交付法庭17人，包括皮达可夫、索柯里尼科夫、拉狄克、谢列布里亚柯夫等，所有人都立即或稍晚一些从肉体上被消灭。
    这一次审判与前一次审判有所不同。前次审判的主旨，是指控托--季反对派甚至“右倾”反对派参与恐怖活动，染指谋杀，而此次审判的主题，则是灌输反对怠工的思想。似乎全国各个地区、各个经济部门，从中央到地方，从普通工程技术人员到人民委员，都存在着普遍的怠工。当时，全国正热火朝天地开展斯达汉诺夫运动，一方面超高指标，打破生产记录，天天在宣布。另一方面，成千上万个企业由于不遵守起码的技术操作规程，废品不断，工伤事故连绵，计划失误，设备损坏经常发生--这被统统指控为怠工行为。“怠工”几乎成了一种没有边际的外延，很多人都可能遭到这种指控。制造出技术专家怠工的形象，在人民群众中煽起对他们的恶感，成了这次审判预定达到的战术目标。这样，莫斯科第二次审判就揭开了对国民经济管理人员和党的干部清洗的序幕。在这前后，政治局内以奥尔忠尼启泽为代表，为使布哈林、李可夫摆脱在第一次审判中遭到的指控，同时也为保护经济管理部门，特别是保护重工业部门的领导人和技术专家，曾进行了种种努力和斗争。有证据显示，奥尔忠尼启泽曾为此仗义直言，同斯大林进行过拼死抗争，但他最后以身殉难（注：奥尔忠尼启泽在其自杀前40多天内（从1937年1月1 日至2月18日晨自杀），就找斯大林22次，谈话达70小时以上（见奥·赫列弗纽克《政治局--30年代的政权机制》，第291页）。 ），而未能阻止“大清洗”的推行。
    奥尔忠尼启泽在1937年2月18日的死， 消除了最高领导层中存在的对“大清洗”的最大的，也几乎是最后的阻力。接着，在几天后开幕的联共（布）中央1937年二月全会（2月25日～3月5日）， 为批准“大清洗”打开了最后的绿灯。在这次全会上，逮捕了布哈林和李可夫，并作出决议，把他们交付内务人民委员部审查。叶若夫在会上作了重要发言，向全会报告了在各地各部门破获的案件，揭露了各地各部门领导人的所谓“本位主义”、袒护“敌人”和阻挠揭发的种种行为。在全会最后，斯大林以《论党的工作缺点和消灭托洛茨基两面派的办法》为题，作了报告和总结。他从全会上的报告和讨论中得出结论：“在我们所有的或几乎所有的组织中，无论在经济组织或在行政组织和党的组织中，都在某种程度上碰到了外国代理人的暗害、破坏和间谍活动”；“外国代理人，包括托洛茨基分子在内，不仅打入了我们的基层组织，而且窃取了某些重要职位”，而“一些领导同志”竟“麻痹大意”，不仅不善于分辨这些敌人的“真面目”，而且“往往自己就帮助外国代理人窃取了某些重要职位”。（注：《斯大林文集（1934～1952）》，第136页。 ）他在全会上这样严重地估计形势并夸大敌情，自然以此大大推动了“大清洗”运动。
    在这次中央全会之后，全速开动了“大清洗”的机器。从这次中央全会到莫斯科第三次公开审判（1938年3月）的整整一年间， 是对千百万经济干部、党政军干部进行大撤换、大逮捕，用第一个五年计划期间提拔上来的新人取而代之的一年。“反对派”和“人民敌人”的概念无限扩大，凡对反对派有过同情，凡对斯大林路线有过异议，凡支持过基洛夫、奥尔忠尼启泽的温和倾向，甚至凡对斯大林有过不恭或谈笑的，统统被视为“反对派”和“人民敌人”，而加以审查和逮捕。这次清洗触及到了各个级别的干部，从中央政治局委员到各地各方面的基层干部。在此前后被镇压的政治局委员，有丘巴尔、埃赫、柯秀尔、卢祖塔克、波斯蒂舍夫。在139个联共（布）中央委员中有89个被逮捕， 而后几乎全部被枪决。在1966名十七大代表中，有1108人在“大清洗”期间消失。撤换了所有各人民委员部的部长。其中以坦克制造人民委员部和一些工业部门的部，损失最为惨重。坦克制造人民委员部整个管理机关的人员，各企业的所有厂长经理（只有两个除外），绝大多数工程师和技术专家都遭到逮捕。在其他工业部门--飞机制造、船舶制造、冶金工业等部门，也发生了类似的事件。镇压也扩大到了工会、共青团、各社会团体的干部以至科学和创作知识分子，以及共产国际的职员和外国党的同志等等。其牵连人数之多，至今尚在研究统计当中。（注：现从档案中共发现383个名单，上面载有4.4万名被捕的党、军队和经济部门领导人，其中3.9万人被判枪毙。政治局委员对这些名单都表决， 并在上面留有签名。〔俄〕《史源》1995年第1期。）
    德国纳粹间谍机关利用弥漫苏联全国上下的怀疑和告密气氛，伪造文件，制造了苏联副国防人民委员图哈切夫斯基元帅及其同僚同德国军部秘密联络的反间计，并通过捷克斯洛伐克侦探机构透露给了斯大林（注：《苏共二十二大》，莫斯科1980年俄文版，第585～586页。）；斯大林借此下令，在1937年6月将图哈切夫斯基和包括雅基尔、 乌鲍列维奇和埃德曼等在内的苏联7 位最著名的军区司令级将领逮捕并执行枪决（注：苏联和国外深入研究这个问题的历史家一致认为，这个反间计对斯大林对苏联军事领导人采取的行动没起决定作用，只是被用来对付动员其他军人指控被告起了一定作用。涅克里奇：（1941年6月22日）， 莫斯科1965年俄文版，第85～88页。）。在随后的两年间，从军内消失的共有11位副国防人民委员，80位中的75位最高军事委员会委员，8 位海军上将，尚存4位中的两位元帅（叶戈罗夫和勃留赫尔），16 位中的14位军级将领，以及90%的集团军将领和总计8万名当中的3.5万名军官。（注：〔俄〕德米特连柯主编：《20世纪俄罗斯史》，第385页。）