1931年“九·一八事变”爆发后，日寇占领了东北三省，进逼平津，形势岌岌可危。当此之际，中国古代史上外患严重的宋代，引起了史学工作者的特别关注，有关论文一时陡增。此时，陈乐素已离开了《日本研究》杂志社，寓居北平，以撰文维生。有一天，他从报纸上看到日寇占领沈阳的消息，不禁潸然泪下，顿感国事颠危，有似历史上的两宋时期，于是决心攻治宋史，以期唤起国人之觉醒，抗日救亡。经过两年多的努力，1933年，陈乐素在《辅仁学志》上刊布长达4 万字的《宋徽宗谋复燕云之失败》。这是陈乐素第一篇公开发表的宋史研究的论文，是当时屈指可数的长篇鸿文。自此为始，陈乐素即将宋史作为自己的主要研究内容，直到逝世，长达57年之久。
    1935年，经蔡元培先生推荐，教育部派陈乐素去日本，为时半年，考察中国古籍流传日本和日本学术界研究中国的情况。此次东行，使他有机会仔细阅读静嘉堂文库的汉籍，尤其是原陆心源“皕宋楼”所藏珍本，收益颇丰。
    1937年“七·七事变”后，上海、广州相继论陷，陈乐素携家带口，辗转到了香港。经香港大学教授许地山先生介绍，到英华中学教国文和历史。1941年，“太平洋战争”爆发，日军随即占领香港，中学停课。陈乐素为维持生计，只得到半山别墅教私人日语，艰难度日。这期间，香港生活相当艰苦，内地去的人尤其艰苦。陈乐素的薪水，不仅要维持一家七口人的生活，而且还要时常接济亲友，经济负担是很重的。陈寅恪先生、袁同礼先生此时均在香港，都得到过陈乐素的热情帮助。生活虽然艰苦，但陈乐素的学术活动并未停止。他受叶恭绰先生的邀请，担任《广东丛书》编委，为《广东丛书》汇编、校订屈大均《皇明四朝成仁录》一书，并最终出版。他还应友人之托，编过一些当代人物的年谱传略，以笔名发表。
    1942年秋，经史学大师陈寅恪先生推荐，在贵州遵义的浙江大学校长竺可桢先生聘请陈乐素为史学系教授。于是，他携家带口，克服种种困难，通过日军盘查，经湛江辗转流徙，终于在12月到达遵义就职。以一位中学教师而能被当时大后方四大国立大学之一的浙江大学直接聘为教授，实属不易，反映出陈乐素当时的学术地位和学术水平，已得到承认。到浙大任教，是陈乐素一生的重要转折点；从此他踏入高校讲坛，以教学与学术研究为已任，为20世纪中国宋史学的发展壮大奠定了基础，做出了开拓性的贡献。这一年，他40岁。
    在贵州遵义的浙江大学，陈乐素身处万山丛中，一面教学，一面从事学术研究工作。陈乐素夜半三更在油灯下苦读苦写的情景，令浙大不少人记忆深刻。40多年后的1995年，原浙大史地学系主任、台北中国文化大学创办人张其昀之子张镜湖（时任中国文化大学董事长）还深情地回忆起当年在遵义时陈乐素艰苦治学的情况，称颂他的治学精神感人之深。
    在浙大期间，陈乐素开设的本科课程种类繁多，有隋唐史、宋史、中国目录学史、史料学、校勘学、避讳学、史源学实习、日本史、中日关系史等。到浙大不久，他又兼任史地研究所导师，负责指导研究生。除第一位研究生余行迈外，他指导的研究生，集中在宋史领域。在他之前，张荫麟（1905～1942年）执教浙大，指导宋史研究生。陈乐素接着带出了更多的宋史研究生，发扬光大了浙大的宋史研究，奠定了浙大在宋史研究领域的重镇地位，直到今日。他这一期间的研究生，主要有余行迈、程光裕、徐规、宋唏、王省吾、倪士毅等人。在浙大史学系教授中，他以“淹贯群书，治学严谨”著称。
    1945年，八年抗战终获胜利。1946年，浙江大学迁回杭州。陈乐素也随校迁徙，定居杭州，继续其教学研究生涯。在这一期间，他同情和支持浙大的学生运动，多次掩护进步学生的活动，受到学生的欢迎和称道。1949年，杭州解放，陈乐素积极投身于新的社会生活中。他担任了浙江大学工会的负责人，教授过中国近代史、 历史唯物主义等课程。1952年，院系调整，陈乐素随历史系到了浙江师范学院，除继续任历史系教授外，兼任图书馆馆长。
    1954年，人民教育出版社社长叶圣陶先生亲自提议，由中共中央宣传部和中央人事部下调令，调陈乐素进京，到人民教育出版社任编审，兼历史编辑室主任，从事中小学教科书的编审工作。经过陈乐素与巩绍英、邱汉生、汪篯、王永兴等专家的共同努力，集体编写了高中中国历史课本。这套课本于1950年出版发行后，得到史学界、教育界和中学历史教师的好评。陈垣、侯外庐等著名史学家都在《历史教学》杂志上发表文章，加以赞许。1954～1956年编辑出版的中小学教科书，是新中国成立以来的第一套系列教科书，也是教育部和人民教育出版社献给新中国的一份厚礼。陈乐素在其中洒下了自己辛勤的汗水，做出了自己的贡献。
    1956年，中国科学院历史研究所聘陈乐素为兼职研究员。1964年，吴晗主编《历史小丛书》，他被邀请担任编委。虽然有繁重的中小学教材的编审任务，但陈乐素并未停止自己的学术研究活动。只是，除了指导研究生外，他已极少发表文章了。30多年后，安徽师大的万绳楠教授还对一位师从陈乐素的学生无限感念地说：“我走上史学研究之路，也多亏了陈先生的指引。50年代我在北京当中学教师，《历史小丛书》约我写《文天祥传》，正是在陈乐素先生指导下才完成的。你能跟陈先生学习多好啊，要珍惜这个机会呀！”同时，陈乐素还参加了历史研究所的集体项目--《中国史稿》宋史部分的写作，此书署名“郭沫若主编”，直到“十年浩劫”后，到90年代，才出齐全套10册。
    十年浩劫中，陈乐素先是被下放到安徽干校劳动，以年近70之身，承担沉重的挑开水到田头和给农田浇水的工作。1972年，陈乐素被强迫退休，并且既不许在北京居住，又不许回老家广州或新会，只得回到原来的工作之地--杭州，在郊区落户。在杭州落户后，陈乐素重拾旧业，继续进行历史研究，整理《宋史艺文志考证》的旧稿，直到1978年。其间，他曾一度受中国历史博物馆之邀，赴北京从事陈列事迹的审定工作。