1935年9月底，胡宗南得到军委会允许，率第一师离松潘回甘。但这时甘南碧口一带胡师原驻防地已为第三军王均部进驻。胡遂率第二师经弓木贡岭、南坪、邓桥、岩昌、西固、礼县，于10月上旬，开抵天水甘谷一带驻扎。当时正是农历中秋前后。
     胡部第一师在这里驻到1936年3月。胡宗南将他的师部设在甘谷城西的一个小村庄三十里铺。他与参谋长於达住在三十里铺南山上的一座小庙中。庙北向，阴晦，久无人住，门窗破损，是座废弃的破庙。胡宗南住正殿，生活颇为艰苦。年底，天津《大公报》青年记者范长江在西行途中，曾去访问了他。后来，范长江在1936年1月4日的《大公报》，发表总题为《中国的西北角》的通讯中，记述了他采访胡宗南的情况：
     这时在松潘回师的胡宗南氏，正驻在甘谷西面的三十里铺。他的生活情形，据天水一带的民众和朋友谈起，颇有点特别。记者去年过松潘时曾见过胡氏一次，只觉得他喜欢住山上古庙，和有些人不大相同。所以这次特别去拜访他。他不住甘谷城，住的是居民不满三十家的三十里铺，而且不是三十里铺的民房，是三十里铺半山上的一座小庙。
     我们到庙里去看看，他住的正殿，门窗不全，正当着西北风，屋子里没有火炉，他又不睡热炕，身上还穿着单衣单裤，非到晚上不穿大衣，我看他的手脸额耳，都已冻成无数的疮伤，而谈话却津津有味。他会他的部下，就在寺前山下的松林里，把地上的雪扫开，另外放上几块砖头，就是座位。记者有点奇怪，因问他：“人生究竟为的什么?”他笑着避开了这个问题没有答复，却滔滔不绝地谈起他的部下，某个排长如何，某个中士如何，某个下士又如何，这样的态度倒使人有点茫然了。(天津)《大公报》1936年1月4日。
     胡宗南这种有意苛待自己的生活作风，确使外人茫然。他是在锻炼自己的军人毅力与“革命”风骨么?他是在与士卒共甘苦激励部下么?他是在培养自己的德望，树立自己的良将形象，以赢得舆论的赞誉与上司，特别是蒋介石的注目，重视么?似乎是又似乎不全是，也许皆而有之吧。
     胡宗南是书生出身，投笔从戎。在黄埔军校，曾受到革命理想的鼓舞;带兵以后，一直以古代良将自期。他有抱负，有追求，喜欢思索问题，不仅在作战时能不避矢石，常临险境，就是在平时军旅生活中，也相当的勤奋、刻苦、谨慎。
     他的师参谋长於达后来回忆这一时期的胡宗南时，说：行军时，师部往往只与一个团同行。到了宿营地，各自进入指定地方、无线电报机、有线电话机首先架设，接受各部队报告。胡先生则携一二幕僚，侦察附近地形，巡视部队情况，决定夜间抵抗线及进出路……夜间与胡先生讨论明日如何行动，必至深夜方睡。亦往往有意见不同之处，最后则照胡先生决定行事。
     第二天继续行军……胡先生与特别党部则留在宿营地巡视，厕所有否填平?废弃物件有否烧埋妥当?门扉桌凳有否归还原处?借用物品有否归还?如有破损，有否照价赔偿?巡视完了，胡先生则跃马而前，必于第一次小休息时赶到师长位置。此后行进则与官兵步行，绝不骑马。“胡先生喜欢深思，常常闭户蹀躞……也常常骑马到僻静处去沉思熟虑……”於达：《陆军第一师师长任内之胡宗南将军》，刊(台北)《革命人物志》第11期。
     黄埔出身的胡宗南未受过系统的高等军事教育。他的军事学识与军事指挥能力，主要是在多年的军旅生涯中逐渐形成的。再加上他的勤奋、认真、刻苦、谨慎等指挥作风与生活作风，使胡宗南在任团长、旅长乃至师长时，能指挥游刃有余。不像他后来飞速升迁至统率几十万兵马的军事方面大员，他的指挥能力就显得捉襟见肘，以至于一败再败了。