安纳波利斯会议标志着麦迪逊邦联改革实验的失败，促使麦迪逊开始新的政府体制的探索。历史学家戈登·伍德指出，弗农山庄（Mount Vernon）、安纳波利斯这两次商贸会议都被麦迪逊用来作为变革中央政府的动力。[29]（p473）基于对现存邦联体制缺点的认识和强烈的改革抱负，麦迪逊在安纳波利斯会议后，开始了对邦联政府与联邦政府体制的深入研究，积极地为安纳波利斯会议取得的惟一显著成果--1787年的费城会议做准备。安纳波利斯会议后，他深入研究了古代出现的邦联政体的利弊得失和美利坚所急需的加强中央政府权力的联邦体制。这些深思熟虑的理性思考，成为他政治思想的核心。依据自己的政治实践，结合对古代邦联政体的研究，1787年3月麦迪逊撰写了《合众国政治体制的弊病》的草稿，把邦联体制的缺点归结为11个方面：各邦不能履行宪法义务；邦权侵蚀邦联的权威；不遵守国家法律和条约；各邦之间相互侵权；在共同需求的利益面前缺少一致行动；无法消除各邦宪法和法律的相互抵触；邦联政府缺少必要的法律制裁和强制措施；缺少人民修改《邦联条例》的权力；许多邦法律的繁杂、多样性；各邦法律的多变性；各邦法律的不公正性。同时，他思考改革现状的一些措施：当前所急需的是改变政府权力主体，在不同的利益群体和政派之间建立有效的机构，阻止社会上一部分人侵害另一部分人的权利；同时对这个机构进行有效的约束，以防止他们谋取私利、损害社会整体利益。对于共和体制改良的另一个辅助措施是选举程序的改变，从社会上选出那些具有最完美品性的绅士，让他们成为民众的代表，这将成为实现改革目标的恰当手段。[27]（p57～65）在这篇文章中，麦迪逊的思想明显地转变为宪政主义思想：权力分配的不平衡导致了邦联的松散，通过改变选举方式，使人民中的精英代表成为权力的主体；通过改革法律体制以加强中央权威并对其进行有效的监督，进而控制因邦权强大而导致的邦联弊端。随后，宪政思想成为麦迪逊起草“弗吉尼亚方案”的理论依据，也成为他在费城会议上为立宪辩护的强有力的理论支持，以及他在《联邦主义者文集》中为新宪法辩护的重要内容。
    尤其值得注意的是，麦迪逊宪政理论的核心--《联邦主义者文集》第10篇，被认为是写于安纳波利斯会议后与费城会议前的这段时间。[25]（p44）文集中第18、19、20篇的内容是集中论述邦联体制弊端的，麦迪逊所列举的几个欧洲历史上的邦联政体的弊病，也都是《关于古代和现代的邦联政府》中早已提及的内容和结论。从麦迪逊的这些政论著作中，我们可以看出他的一种不同于邦联体制的全新的宪政模式：党争精神是危害公共管理、社会稳定的重要敌人，政府必须对此加以控制；党争存在的根源是自由，取消党争存在的根源无异于舍本逐末，因此，只能加强政府控制，实质是要扩大政府的权力。麦迪逊认为，党争产生的根本原因就在于利益纷争，即“财产分配的不同和不平等”，现代立法的主要任务就是把“各种各样、互不相容的利益集团，并把党派精神和党争带入政府的必要的和日常的活动中去”；[29]（p46～47）共和政体能够比民主政体管辖更多的公民和更广泛的领土，能够更有效地控制党争；在联邦的范围和适当结构里，共和政体能够医治共和政府最易发生的弊病；人在本性上充满贪婪、褊狭、仇恨和战斗，因此，对人性中的“恶”必须加以控制，“野心必须要用野心来对抗”；政府本身就是人性的耻辱，政府对防御的规定必须与遭遇攻击的威胁相对称，“假如人都是天使，政府就没有存在的必要了。依靠人民对政府控制时，必须有有效的、辅助性的预防措施”。[29]（p290）
    此外，安纳波利斯会议后，麦迪逊成为一个积极的宪政主义宣传者和鼓动家。在麦迪逊看来，安纳波利斯会议的惟一结果--建议召开费城会议，就是一个实施政治抱负的机会。他开始和当时有影响的政治人物华盛顿和杰弗逊紧密联系，希望借助他们的威望，迫使国会和各邦议会批准召开一个全邦联的会议，同时着手为即将到来的费城会议做准备。1786年11月8日，麦迪逊在给华盛顿的信中写道：“（最近的集会上）安纳波利斯会议代表们一致同意对邦联体制进行广泛修订的建议，得到了国会代表的认可。为了这个目的，一个体现这个联邦精神的议案正在被审议。”“这个崇高的、肇始于每个邦意愿的目标，是非常明智的。”[30]（p50～51）然后，麦迪逊就劝说华盛顿要以自由事业为重，作为弗吉尼亚邦的首席代表出席费城会议。在这个时期的通信中，麦迪逊多次对华盛顿提到“我们的事业”需要像华盛顿这样的领袖人物的支持，如果不能成功，“我们的邦联”就要陷入混乱之中。华盛顿也认识到“危险阴云像是要把整个邦联吞噬”[3]（p52），从而决心打破1783年对公众承诺的不参加公共政务的诺言，为了民主、自由的事业出席费城会议。麦迪逊在劝说华盛顿的时候，就认识到费城会议上的斗争必定非常激烈，所以要争取像华盛顿这样的德高望重的领袖人物的支持。这也说明，在他眼里，安纳波利斯会议的决定，不再单纯是一次修订《邦联条例》的普通会议，而是意味着某些能够体现“联邦精神”的重大变革即将来临。
    由此可见，安纳波利斯会议后，麦迪逊思想产生了巨大的转变。他不仅从政治哲学中找到摆脱邦联体制危机的理论基础，成为积极的立宪主义者，而且从组织上开始为费城会议做行动准备，进而引导费城会议开成一个具有全新内容的制宪会议。不仅如此，在麦迪逊的宣传鼓动下，一批邦联改革派，如杰伊、华盛顿、鲁弗斯·金（Rufus King）等，走上了立宪主义之路。另一方面，《安纳波利斯会议报告》所体现的修改《邦联条例》的立宪主义程序，无疑为实现联邦权力主体变更，即以邦为主体的邦联政府向以人民为主体的联邦政府过渡，提供了合法的渠道。这意味着宪政主义在政府权力过渡过程中成为指导思想，并依据邦联国会的合法性使宪政程序加以确认。