谢国桢生长在没落的官僚地主家庭，自幼从祖母诵学《诗经》、《唐诗三百首》等，稍长从家庭塾师学习。1919年春，18岁的谢国桢与胞弟从家乡来到北京，就读于北京汇文学校大学预科。连续三年报考北京大学文科，未中。后承吴北江（桐城派大家吴汝纶之子）教督，学习古文诗词，并兼做家庭教师，半教半读。1925年夏，谢国桢以头名考取清华学校国学研究院，在梁启超、王国维、赵元任、陈寅恪诸先生教诲、指导下从事史学研究，对明清史和目录学用力尤多。同学有刘盼遂、吴其昌、刘节、王力、徐中舒等。清华园的学习，对其一生教学与科研影响极大。其间他在《清华学报》上发表了《明季奴变考》一文。
    1926年谢国桢于清华国学研究院结业，列名第一。之后随梁启超先生到天津，于其家教授梁氏子女读书。次年，经梁启超介绍，到天津南开中学任中文教师。梁启超逝世后，谢国桢到北京图书馆担任编纂兼金石部收掌之事，先后与赵万里、刘国钧、王重民、向达、谭其骧等同馆共事，长达十余年。前在梁启超家中之时，他曾在梁指导下研究明末清初的学术思想和搜集明清之际的资料，饱览了“饮冰室”藏书，并经梁启超介绍，披阅了朱希祖、伦明、傅增湘等名家藏书。到北京图书馆后，不仅大量阅读馆藏及故宫博物院、东方文化会等处藏书，还南下江浙，北上大连、沈阳，甚至东渡日本访求书籍，“凡历公私藏书之所约十余处，费时阅四年”，上海函芬楼及一些私人藏书处，都留下了他的寻书足迹。在此基础上，终于1931年完成了80万字的《晚明史籍考》20卷，1933年由北京图书馆铅印出版。
    1932年，谢国桢经胡适、傅斯年介绍，到南京担任中央大学专任教师。还在北京北海琼岛之滨时，谢国桢已着手收集明季党争和社盟的材料，在南京期间，教课之余著成了《明清之际党社运动考》一书，1934年由上海商务印书馆印行问世。1933年中央大学介绍谢国桢到河南大学任教，谢虽未去，但答应协助河南大学方面编纂《河南通志》，因之返回北京图书馆供职。
    1937年卢沟桥事变后，北平沦陷，谢国桢来到长沙，于当时的西南联合大学图书馆供职。1938年春，应中华文化基金会之邀，回北平典守北平图书馆的金石图书。此前谢氏还曾为中日庚款基金委员会所办的东方图书馆编写了《续修四库全书提要》。后因受周作人延聘到北京大学史学系任教之故，北平图书馆方面令其辞去了馆职。无奈之际经傅增湘介绍到川邦私营大中银行（上海）司笔札，同时协助傅增湘编纂《绥远通志》。
    1945年抗日战争胜利，此时谢国桢正在北平临时大学任教。1946年春，其父在河南安阳病危，经周扬介绍通过解放区回安阳省亲。途经邯郸，遇旧识范文澜，又结识杨秀峰，二人委托谢到上海时为华北大学购买图书。处理完父亲丧事之后，谢赴上海为华北大学购书，经周公馆运到解放区。谢在上海仍往大中银行供职，并为开明书店编写稿子，校辑《鲒埼亭集校注》，因中国人民解放军东北战役展开，又为开明书店编著《清初流人开发东北史》一书，1947年成书，次年由上海开明书店印行单行本。1948年秋，谢国桢由钱穆介绍到昆明云南大学和王华书馆讲学。1949年2月北京解放后，他由昆明回上海，又潜渡长江回到北京，遵范文澜之意见到华北大学政治研究所学习，未及结业，1949年10月被推荐到天津南开大学历史系任教。
    新中国成立后，谢国桢更加勤奋教书、著述。初在南开大学教授明清史、目录学、历史文选等课程，郑天挺来到南开大学后，两人共同讲授明清史。1957年底，谢国桢调到中国科学院（今中国社会科学院）历史研究所工作，一直到去世为止。1957年谢的旧著《顾亭林学谱》再版，并出版了《南明史略》和《清初农民起义资料辑录》。1960年又出版了专门介绍明清笔记史料的《明清笔记谈丛》。
    “文化大革命”期间，谢国桢受到残酷迫害，1966年7月被隔离停职反省，后被送到五七干校。但他仍未放弃明清史研究，在艰难的条件下编成了《明代社会经济史料选编》初稿，并从汉代石刻画像中受到启发完成了《两汉社会生活概述》初稿。
    党的十一届三中全会以后，谢国桢以更大的热情投入资料整理和明清史研究工作，他将书斋命名为“瓜蒂庵”，表示要“拾得瓜蒂报君情”。在垂暮之年，他不辞辛劳带领助手和学生两下江南访书，写成30万字的《江浙访书记》。1980年他编辑的《明代社会经济史料选编》由福建人民出版社正式出版。1982年他的《明未清初的学风》经人民出版社出版问世，书中集中体现了谢国桢一生研究明清史的重要成果，涉及了明清的学术思想文化史、农民战争、资本主义萌芽等问题，还阐明了自己“平生研究学问的旨趣所在”，为明清史研究作出了新的，也是最后的贡献。
    谢国桢从青少年时代起，就致力研究明末清初的历史。其一生对明清史的研究，集中在两个方面，其一是政治方向，论著有《明季奴变考》、《明清之际党社运动考》等专著及论文多篇；其二在学术文化方面，论著有《顾亭林学谱》、《黄梨洲学谱》、《孙夏峰、李二曲学谱》、《清初东北流人考》等十余种。