胡一新，1907年生于内蒙古丰镇县大庄科村一户富裕的农民家庭。兄妹五人，他排行老三。
     胡一新自幼勤奋好学。1915年他入本村小学就读。1923年，考入山西大同省立第三中学。1926年，他以优异的成绩考入北京燕京大学。他在大学期间，受进步师生的影响，阅读了一些进步书刊，接受了新思想的教育，懂得了一些革命道理。然而，就在胡一新奋发苦读的时候，他家的经济每况愈下，竟无法交付昂贵的学费和生活费，迫使他悒郁辍学。1929年初，他给一家店主做了帮工。弃学为工，是胡一新人生道路上的第一个转折点。自食其力的生活，使他初次体验到劳动人民的疾苦。苦难的生活，使胡一新彻底地觉醒了：要挣脱被奴役被压迫的命运，就得革命。
     1929年底，他怀着一颗美好的心愿，离开北平，加入了阎锡山的部队，当了一名看守监狱的小兵。
     胡一新刚刚踏进阎锡山的部队不久，就很快发现这是一支维护军阀反动统治的地方武装，和腐败政府、土豪恶霸同流合污，把枪口指向劳苦群众。在这里，士兵们终日挨骂受气，稍不留意，就会受体罚，被打得遍体鳞伤。沉郁的政治空气和森严的等级制度，使胡一新感到压抑和窒息。所幸的是，他在做监狱看守时，接触到了一些被囚禁的共产党人。从他们那里，胡一新才懂得了当兵打仗有为谁当兵、为谁打仗之分，只有中国共产党领导的工农红军才是为劳动人民谋利益求解放的。但这时的红军，还在那遥远神秘的南方山区丛林，一时难以找到。后来，胡一新又听说有个名叫冯玉祥的爱国将领，在汾阳开办了一所以“抗日反蒋，培养革命军官”为宗旨的军校。于是，他毅然逃离晋军，于1931年考入汾阳军校。冯玉祥将军倾向革命，共产党人在这个部队的活动异常活跃，并建有士兵委员会等地下秘密组织。胡一新入校不久，就积极加入了这个组织。在这里，他不仅认真学习了《共产党宣言》、《国家与革命》等马列著作和许多进步书籍，提高了思想觉悟，而且熟练掌握了各种军事知识。

     1932年秋，胡一新加入中国共产党，开始了他人生旅途上的新生活。
     1933年初，冯玉祥在中国共产党的支持帮助下，以国家兴亡为重，高举爱国大旗，广泛联合东北义勇军、热河抗日民军、察哈尔自卫军等抗日武装，积极酝酿组建抗日同盟军。这年4月上旬，汾阳军校师生奉命出发，北上抗日，月底抵达张家口，被编为抗日同盟军第二师。该校的100多名共产党员担任了第二师各级领导职务，胡一新任二团一个连队的政治工作负责人。5月，他与共产党员张民权、郑汉等奉命前往雁北、绥东一带扩军。在他们的积极宣传鼓动下，大同、阳高、怀仁等地的进步学生和爱国青年踊跃报名，争相参加抗日同盟军。6月下旬，第二师在吉鸿昌将军的指挥下，征战察北。胡一新在收复康保、宝昌、沽源等县的战斗中，英勇顽强，不怕牺牲，受到好评。特别是在收复察北重镇多伦的战斗中，表现得更为突出，堪称表率。
     然而，多伦战斗的胜利，引起了南京政府的极大恐慌，蒋介石对抗日同盟军更是嫉恨。他们采取军事进攻、高官引诱、金钱收买等各种卑劣手段，明枪暗箭齐发，制造矛盾，搬弄是非，致使抗日同盟军分化瓦解，不欢而散。第二师被宋哲元部收编。胡一新和该师未暴露身份的共产党员奉命继续留在军中。不久，由于党组织遭到破坏，他与上级失去了联系。
     1934年7月，胡一新为了寻找上级党组织，和共产党员李启明一起离开了宋哲元部。在身无分文、极端困难的情况下，他俩怀着对党的无限忠诚，沿途乞讨，徒步数百里来到西安。他俩在举目无亲、不得温饱的困境下，只好临时参加了杨虎城将军举办的步兵训练班借以栖身。在这里，他俩又结识了共产党员张文舟，并建立了三人临时党支部，还通过训练班的地下党组织与中共西安市委取得了联系。市委介绍胡一新赴陕北苏区工作。他在奔赴陕北的路上，连续三次被国民党军队抓去当兵，尽管都逃了出来，却不幸染上了重病。他硬是咬紧牙关，忍着病痛，克服重重困难，历经艰辛，几经周折，终于找到了陕甘党组织。