由于这个时期地方党政关系尚处于探索和调适阶段，没有形成统一模式。在省一级，党政关系大致由倾向于党政分开向以党治政的方向发展，权力配置更多地向党部倾斜和集中，甚至演为以党代政的趋势；而县级党政关系则依各省情形而呈现出不同的格局。总体而言，这个时期地方党部比地方政府显得更具权威。
    值得注意的是，作为国民党组织和政治顾问的鲍罗廷以俄国革命经验来观察这个时期国民党的党政关系时，认为党的权力还不够大，党的领导作用没有很好发挥。他强调党应该决定乡政府、县政府、省政府、中央政府如何进行，不仅要决定总的方针政策，而且要具体指导各级政府的实际工作，比如他认为各级政府的财政税收都应该在党部的决策范围之内（注：《鲍罗廷在中国的有关资料》，中国社会科学出版社1983年版，第174-175页。）。但鲍这一强化党权的建议未被国民党完全采纳。
    1928年后，国民党逐渐由一个区域性的执政党发展成为一个全国性的执政党，同时宣布在全国实施训政。训政时期，国民党在中央一级明确规定以党治政，在地方一级，则改变了大革命后期倾向于党部指导监督政府的原则，代之以党政分治制衡体制。1928年8月，国民党二届五中全会通过《各级党部与同级政府关系临时办法案》，规定各级党部对于同级政府之举措，有认为不合时，得报告上级党部，由上级党部请政府依法查办；各级政府对于同级党部之举措有认为不满意时，亦得报告上级政府，转咨上级党部办理（注：荣孟源主编《中国国民党历次代表大会及中央全会资料》上册，光明日报出版社1985年版，第786页；鲁学瀛：《论党政关系》，《行政研究》第2卷第6期，1937年6月。）。寻味这两条规定的涵义，地方党部与地方政府各自独立，自成系统，两者的地位不分轩轾，平行并存，相互制衡。这意味着在同一地方层级事实上存在着两个互不统属的官僚衙门。
    这一规定大约缘自国民党在制定训政纲领时所立下的一个基本原则，即中央政治委员会（简称中政会）是“党与政府间惟一之连锁”（注：胡汉民：《训政大纲提案说明书》，《胡汉民言论集》第2卷，三民公司1928年版，第6-7页。）。这一原则可以理解为除了中政会这个连锁机关外，在中央以下的各级党部与各级政府之间，是没有连锁关系的；党对于政府的指导监督，只能通过中政会传达于国民政府，然后由国民政府指导地方政府。除此之外，地方党的机关对于同级政府机关是不容许发生直接的指导监督关系的。以《省组织法》的变迁为例，1926年11月颁布的《省组织法》明白规定：“省政府于中国国民党中央执行委员会及省执行委员会指导监督之下受国民政府之命令管理全省政务”，到1927年7月修正时删除了“省执行委员会”，1927年10月再修正时又删除了“于中央执行委员会的指导监督之下”，而代之以“依中国国民党党义”，到1930年2月更将“依中国国民党党义”的条文改为“依国民政府建国大纲”（注：陈之迈：《中国政府》第3册，商务印书馆1946年版，第6页。）。由此一来，不仅省党部与省政府之间不存在直接的权力隶属关系，连国民党中央执行委员会也不能直接向地方政府发号施令，而必须通过中政会和国民政府实行间接指导。这种间接指导主要是一种国家大政方针政策的政治指导，而非对政府行政过程的具体领导。
    国民党中央的根本认识是：“本党对于国民政府，系以整个的党指导监督整个的政府，非横断的以各级党部指导监督各该同级政府”。国民党中央明白指出：“党权高于一切，乃指中央党权而言”（注：《指令浙江省执行委员会》，《中央党务月刊》第16期，1929年10月；《支那中央政况关系杂纂--国民党关系》，日本外务省外交史料馆档案，卷号：A/6/1/1/2/2。）。意谓地方党权不能凌驾于地方政权之上。事实上，即使是中央党部和中央委员也不能直接干预地方行政事务。如1931年1月国民党中常会通过的《中央委员分区视察办法》规定：中央委员到各地视察和考察时，只负责指导地方党部的党务工作，不考察地方政务；只有兼政治会议委员的中委，于视察时得参加各该地的政府会议（注：《中国国民党中央委员分区视察办法》，《中央党务月刊》第30期，1931年1月。）。显然，这个时期国民党中央处理地方党政关系的要旨是以党政分开为原则，党部与政府分属两个独立的系统，双轨运行，两者之间不存在直接的权力隶属关系。
    国民党中央所设计的这样一种地方党政关系原则，最初遭到地方各级党部的强烈反对。地方党部执著于“党权高于一切”的观念，力图将地方行政纳入地方党部的直接指导和控制之下。在党部看来，政权是国民党“诸先烈流热血，掷头颅所换来的”，党权应该高于一切（注：《党务消息》，1929年1月1日《广州民国日报》。）；党权既然高于一切，地方党部理所当然高于地方政府，应该指导和监督地方政府。他们声称：“训政之时，以党权代民权，则政权属于党，治权属于政府，即党行其权，政府尽其能，是谓党治”（注：《市党部监督市政府办法》，1930年3月5日上海《民国日报》。）。为此，各地党部在训政初期提出了一系列如何在省县实施“以党治政”的建议和提案。概而言之，这些建议和提案主要包括如下几个方面：在省县党部内，应仿照中央政治会议形式设立地方政治会议以控制政府；在训政时期，党既然代表人民行使四权，省县政府所制订的一切法规、施政方针和预算案、决算案应由省县党代表大会通过施行或审核；省县党部对同级政府应该有质询权和弹劾权；省县党的代表大会对于同级政府应有罢免、创制和复决权；省长和县长应分别由全省党员和全县党员直接投票选举和罢免；党的各级监察委员会对于同级政府官吏违法或犯罪时，得按情节轻重，提出质问、警告或弹劾；荐任以上官吏，均须交其所属党部审查合格，方得任用；各级政府增加人民负担时应先征得同级党部的同意（注：《解释以党治国之意义并确定以党治国之方式案》、彭学沛：《党和政府的关系》、《训政时期党与政府工作之规定案》，分别见1928年7月31日、8月6、10日《中央日报》；《指令浙江省执行委员会》，《中央党务月刊》第55期，1933年2月；陈之迈：《中国政府》第1期，第32-33页。）。
    在国民党训政初期，各地地方党部的气焰一度十分嚣张，以党揽权达到了惊人的地步。据国民党党报报道，各地党部“好似当地的太上政府，无论甚么事，不是干涉政府的行政，就是扰乱人民，予人民以不良的影响”（注：孙科：《办党的错误和纠正》，《中央党务月刊》第29期，1930年12月。）；在许多地方，“政府对党部有敢怒不敢言的景象”；“党部自由逮捕人民，甚至令他们站立木笼，并不交政府去执行惩办”（注：蒋介石：《党政须团结一致革命方能成功》，《中央周报》第38期，1929年2月。）；有的地方党部包揽讼事，甚至越权办理离婚案件（注：厦门领事给外务大臣的报告（昭和5年11月12日），见《支那中央政况关系杂纂--国民党关系》，日本外务省外交史料馆档案，卷号：A/6/1/1/2/2。）。一时间，党焰熏天，党部横暴之声喧闻各地。