这一时期井上毅的地方制度的意见还有一个重要特点是主张渐进主义。他反对过大、过激的改革，主张尊重旧惯，循序渐进。如对于大区小区制度，井上毅因其“多属人为”而加以反对，但是当1876年3月，内务省决定改革区划，废除大区小区制度后，井上毅又提出了“关于地方区划改正的意见”而表示反对。在意见书中，井上毅认为大区小区制虽然有缺陷，但在人们已经开始“目惯耳熟”之时，又加以改变是“失信于民，得不偿失。”[2]106-107 此后，他又提出主张，坚持强调说“同人民直接之事物频繁改革甚非美事，”只“废除大区即可。”[2]112 由此可见井上在地方制度主张上的渐进主义。
    在大区小区制时期，各地兴起了地方民会，特别是在自由民权运动兴起后，一些地方民会成为民权者同政府斗争的阵地。对此，井上的主张是：早些建立区会县会之制度，他说：“不定区会县会之制度权限，允许地方官适宜施行，则恐日后造成不可收拾之势。”[2]99 强调“未公布议事之权限乃政府之一缺点。”[2]130 表现出了对蓬勃发展的地方民会的忧虑。
    此外，井上毅在论述自己的意见和观点时，总是举出法国的例子，举出自己在法国的见闻。可见，在法国的留学经历对井上的影响很大，他倾向于日本学习法国的地方制度。
    （二）三新法时期井上毅的地方制度意见
    1878年，西南战争结束后，明治政府开始着手整顿地方制度，改革了各地不一的大区小区制度，实行全国统一的地方制度--三新法。所谓三新法，就是指郡区町村编制法、府县会规则和地方税规则三法。三新法实际上是根据大久保利通的《关于地方体制等改正之事的上书》的意见，由内务大书记官松田道之起草，井上毅进行修改后成案的。由此可见，井上毅对三新法的形成也起到了重要的参划作用。而且有学者认为，大久保的意见书本身就反映了井上的主张[3]7。
    郡区町村编制法废除了大区小区制度，恢复了传统的町村，实际上是井上毅“尊重旧惯”主张的实现。而府县会规则和地方税规则的制定，也是实现了井上毅对地方民会进行规制和对民费进行整理的主张。但是，井上反对恢复郡制，而郡区町村编制法在恢复町村，在町村实行一定的自治的同时，也恢复了郡制，实际上把郡作为监视町村自治的官僚机构。
    府县会规则发布后，府县会被正式承认，成为自由民权派同政府斗争的阵地。对此，井上毅积极献言献策。如为了制约府县会的权限，1882年井上毅提出了一份关于府县会的意见书。在意见书中，他提出了以下七条建议：第一，对于府县会预算中特定的事业，例如“属于地方税的水利土功之事”等给予议定权，希望借此改变府县会始终反对预算案的姿态；第二，他主张把预算支出的项目分为必要支出和便宜支出，对于其必要支出不需要府县会的介入；第三，地方官吏和学校教师的报酬旅费不作为每年预算的对象；第四，建议把府县会会期的延长规定以法律限制在60日以内；第五，明确说明对府县会的议事和建议划一界限，即“不得涉及大政”；第六，规定府县会不得与其他府县会联合或者互通文书；第七，“关于数府县的共同土工”则数例外[2]323。主张对府县会的权限进行限制，从而确保行政权（府县知事）的优越地位，即“知事中心主义”[3]16 是井上的代表主张。
    而对于町村会，井上毅一方面反对给町村会过多的权限，同时又主张“町村会议开设的地方尽可能简约其规则，使其类似一种乡约、或如从前惯行之寄合类，应进行适宜之斟酌。”[2]165
    （三）明治十七年改正后井上的地方制度意见
    1884年，内务卿山县有朋再次对地方制度进行了改革。其主要内容是实行联合户长役场制，其户长从民选变为官选，进行区町村会法改正。这次改革再次加强了政府对地方的统治，史称明治十七年改正。对于这次改革，井上毅明确加以反对。他在1884年先后三次给山县有朋写信，表达了反对改革的主张。
    可以说这次地方制度改革的背景之一是松方财政实行后导致的农村贫困和农民层日益分解成地主和雇农。井上最为关心的是农村的贫困问题。他提出的改良方法是：“一培养各村的自治精神；二起治水土功；三劝课农桑；四节俭村费及教育费用；五诱慈惠之风；六改良储蓄法；七改良征税方法。”[2]479-480 在这里，井上第一次提出了培育农村的“自治精神”这一口号。他批评明治十七年改革，认为“这种制度实行后，行政上变得非常便捷，户长官选，增加户长的薪金后，户长得其人，而且户长的事务大加整顿，无疑会取得一定的成绩，但是相反地，却使各村的自治精神衰弱下去。”[2]480 在1886年的“地方政治改良意见案”中，井上毅用了大量的篇幅论述了农村的自治问题，从中可以看到，面对农村的疲弊，井上毅找到了农村自治这一良方。
    日本的地方自治制度建立前的井上的地方制度意见，可以总结为以下几个方面：对底层町村自治的重视；对财政经济问题的重视；主张渐进主义；主张对府县会和町村会进行限制；受法国的影响比较深等等。可以说他的这些观点，在后来日本的地方自治建设提到日程上来时，也反映在他的地方自治观中。