“国防部”军法处于1950年年底宣布：李梦彪等监察委员弹劾胡宗南各项，均与事实相反，认定胡宗南“自无若何刑责，足资论究……应予不付军法会审”。“司法院公务员惩诫委员会”也申复，认为胡宗南率部从陕西撤至川康，“历经战斗，并未处置乖方，应免议处”。
     轰动台湾一时的弹劾胡宗南案乃告落幕。胡宗南以败军之将，终于逃过了这一场政治风波。但是，蒋介石往日对胡宗南的特殊宠爱与破格重用，却是一去不复返了。
    重被起用领兵
     胡宗南回台湾闲居约一年以后，在1951年3月17日，突然接到蒋介石的命令，要他去浙江省东南海中的大陈岛地区，整理指挥沿海游击部队，组建“江浙反共救国军”。
     1949年下半年国民政府军相继从苏南与浙江、福建等地败逃后，有为数不少的残兵败将逃到了东南沿海的各岛屿上。他们各自占岛为王，各支部队不论人数多少与战斗力强弱，带队官皆称司令。各部之间不相统属，“甚至有恃力兼并、拦劫别队财物者”。
     台湾当局开始对海岛上的这些残兵败将没有重视。朝鲜战争爆发后，美国情报机关得知国民党政府在海岛上尚有一些游击部队，以为可以利用来牵制中共力量，遂与台湾当局商定，由美、台双方共同整理东南沿海游击部队，由美方提供装备。派谁去大陈地区整顿指挥那些游击部队呢？蒋介石想到了胡宗南。
     台湾当局对胡宗南的任命下达后，台湾官场有许多人认为，胡宗南以曾任战区军政长官的身份去几个荒凉岛屿屈就区区一个总指挥，恐怕未必肯去。但胡宗南竟欣然受命。为了保密，胡宗南一行前往大陈用的名义是“国防部视察组”。胡宗南则化名为“秦东昌”，隐含当年兵败三秦，今日东山再起之意。胡宗南毕竟曾经是指挥几十万大军、雄霸一方的将领，整顿这些散兵游勇还是游刃有余，不久逐步控制了各部队的指挥权。他还一本正经地报请“国防部”核定，正式建立起他的“江浙反共救国军总指挥部”。胡宗南整编完部队，就想一试战力。美国驻台特务机构“西方公司”派遣在大陈的蓝浦森亦支持胡宗南出战。于是，胡宗南对浙江省沿海一些岛屿发起了多次攻击。有次竟然袭占得手，于是他向台湾当局报告获得大捷，送了些缴获的解放军枪炮到台北，大肆宣传。因此，胡宗南不久又加官晋爵，在1952年年底被任命为“浙江省政府主席”，但他的“省政府”只辖几个渔岛而已。
     胡宗南没能得意多久。随着朝鲜战争的逐渐沉寂，解放军加强了在东南沿海的军事力量。胡宗南面对的形势更加严峻，日子越来越不好过。不久，台湾岛上议论纷纷，传言大陈也即将“陷共”。1953年7月初，台湾“国防部”正式撤销“江浙反共救国军总指挥部”，改设“大陈防卫司令部”。胡宗南被调回台，仍任“总统府战略顾问委员会上将衔顾问”。
     胡宗南1953年7月回到台北，8月就奉命到设在台北的“国防大学”学习。胡宗南在“国防大学”学习到1954年2月，历时约半年。胡宗南自黄埔军校毕业后，一直带兵征战，20多年来几乎没有静心下来集中时间系统学习近代军事理论与知识。这次到“国防大学”学习，是胡宗南20多年来第一次解甲入学，没有任何实质性的军政职务，以一个学员的身份读书。一则胡宗南是书生从军，书生本色未改；二是戎马多年，阅历不少，教训更多，需要思考与总结，因此胡宗南在“国防大学”里学习倒很是抓紧，读了不少书，还与同时入校的其他将领军官一道研究探讨。他们多是黄埔出身，又都是从大陆逃出的败军之将，经历与见闻颇为相同或近似，因而胡宗南与他们相处颇为融洽。胡宗南这时是无官无职也无威，虽昔日部属对他仍敬礼不衰，但大家都是同学，胡宗南再也不能像昔日司令长官那样威风张扬了。
     1954年2月，胡宗南自“国防大学”毕业，名列“高等”。这时他仍没有实际军政职务，只是以“总统府战略顾问”的名义在台北寓所闲居。他继续在“国防大学”的学业，每日读书，有时邀约一些专家学者与旧日僚属来寓共餐，研讨问题。
     1955年8月，胡宗南忽然被蒋介石数次传见。蒋问了他一些对军事方面的意见与近来情况，然后告诉他准备派他到澎湖任防守司令官，问胡是否愿承担。这次依然出乎大家意料，胡宗南又欣然受命就任“防卫司令官”之职。
     胡宗南自1955年9月到澎湖就任防卫司令官之职，任了两期，历时4年。在这4年中，胡宗南依然做了不少工作，尤其重视对官兵的思想教育与灌输，力图鼓动起官兵思想上的热情，以与他的“国家”与“领袖”共患难。胡宗南向官兵提出了所谓“共患难”的四个条件：“1.不发牢骚；2.不计较待遇职位；3.不悲观，不消极，不泄气；4.在学术上、工作上、思想上，对自己有成就，对团体有贡献。”这些对驻军官兵能有多大的思想影响很难说，但从中可以窥见当时胡宗南的某些心态。胡宗南败逃台湾后，无职无权，没有自己的基本部队，也没有自己的地盘，还遭到弹劾，虽被蒋介石保护过关，但名誉地位一落千丈。从统兵数十万、权势熏天的“西北王”，变成小小澎湖岛的防守司令官，可想而知他的失落感是沉重的。上述的四个条件，也许是胡宗南寻求心理平衡的夫子之道吧。