在比较教会法和世俗法之后，格兰西指出后者往往过于严厉，教会在必要时可以干预世俗法庭的决定，设法减轻刑罚，感化罪犯（注： C.23,q.5,cc.1,4.参见Rufinus,Die Summa Decretorum des Magister Rufinus,ed.by H.Singer.Paderborn:Schoningh,1902,p.408;C.23,q.5,d.a.c.1：“如果罪犯是初次犯法或有希望改过自新，当权者不必非要处死他或伤害他的肢体”。）；但教会在这方面必须慎重，不可轻易向世俗政权提出异议（注：C.14,q.6,d.a.c.3.）。他还提到， 婚姻由教会法管辖，通奸妇女不得按世俗法处以死刑，因为教会法只以“精神之剑”惩罚这类罪行，而不对此使用“物质之剑”（注：C.33,q.2,d.p.c.5 et c.5.）。格兰西另一次提到“双剑”时用“物质之剑”比喻武力，以“精神之剑”比喻主教的劝告和祈祷，指出教士不得动刀（注：C.23,q.8,d.a.c.1.）。如前所述，格兰西承认教会有借助世俗武士使用武力的权力，即间接地拥有“物质之剑”；他的意见似乎是，教会的“精神之剑”是指开除教籍等宗教处分（注：C.23,q.4,d.p.c.12;C.24,q.3,d.d.c.1 et c.1.）。换言之， 格兰西并不明确地用“双剑”来象征教会（“精神之剑”）和国家（“物质之剑”）（注：A.Stickler,"Deecclesiaepotestate coactivamateriali apud Magister Gratianum",in Salesianum,1942年4期，pp.2-23,97-119,111-118讨论了格兰西的“双剑”说。）。
    “双剑”理论是中世纪西欧教会和国家关系学说里常用的一个比喻，各人有各自不同的解释。德皇亨利四世在其同教皇格里高利七世的冲突中引用《路加福音》第22章第38节：“他们说：‘主啊，请看！这里有两把刀。’耶稣说：‘够了。’”亨利以此论证王权和神权应分别由君王和教会掌管（注：MGH,Leges IV,Vol.1,p.111.）。有意思的是， 亨利在这里采用了格雷西乌斯一世的权威二元论，一方面他反对教皇干涉世俗事务，另一方面他也默认了教会在宗教事务上的自主权。与格兰西同时代的约翰·索尔兹伯里和伯纳德·克来沃都提出世俗君王从教会那里接受“物质之剑”，即“双剑”本来都由教会掌管。因为他们两人都把“物质之剑”理解为使用武力和施加刑罚的权力，而不是广义地解释为对世俗世界的统治权，他们的“双剑”说其实并不是替教皇争取世俗统治权，至多只是认为教皇作为宗教领袖在道义上对君王有监督的责任。不过和格兰西一样，他们认为教会拥有“双剑”，把教会看做一个完整的法律实体，独立于世俗国家之外（注：约翰和伯纳德在这方面的著作均有英译本。John of Salisbury,Policratus:The Statesman'sBook,ed.by M.F.Markland.New York,Frederick Ungar Publishing,1979,pp.48 - 49; Bernard of Clairvaux,FiveBooksonConsideration, translatedbyJ.D.Anderson and E.T.Kennan.Kalamazoo,Mich.,Cistercian Publications,1976,pp.117-118。）。14世纪初，教皇波尼法斯八世发表教令（Unam sanctam），重申“双剑”都由上帝给予教会，“物质之剑”由教会交给君主和骑士们使用。波尼法斯的理论与格兰西、约翰和伯纳德的“双剑”说有本质上的差异，他不仅强调使用“物质之剑”者的地位低于使用“精神之剑”的神职人员，前者必须接受后者的监督和指导，而且他对“双剑”的理解与德皇亨利四世的“双剑”说类似，以“物质之剑”指世俗统治权，“精神之剑”指宗教权威，但他对“双剑”关系的解释却与亨利的解释南辕北辙。亨利借用“双剑”的形象是为了说明教会不应干涉属于世俗君王管辖的事务。波尼法斯则认为君王从教会那里得到世俗统治权，不得侵害教会的利益。他发表激烈言辞是为了抗议法王腓力四世向法国教会征税，并不是为教会争世俗统治权。这一教令后被收入《教会法大全》（注： Extrav. comm.1. 8. 1. 这是现代学者援引《教令集补编》，Extravagantes communes，（构成《教会法大全》之第六部分时惯用的缩写），"Extrav.comm."=Extravagantes communes,"1"= liber（book）1,"8"= titulus（ title ）8,"1"=capitulum（chapter）1。J.B.Morral,Political Thought in the Medieval Times.Toronto:University ofToronto Press,1980,pp.34,55,86; W.Ullmann,A.History ofPolitical Thought:The Middle Ages.Baltimore:Penguin Books,1965,pp.110-111.W.Ullmann是英国著名法制史专家，但毕生研究中世纪教皇权威世俗化这一命题，许多观点流于偏颇，其中之一就是认为“双剑”说历来是教会过度扩张权势的一个借口。W.Ullmann 的著作在国内有时被引用，我们应该注意到他是一位很卓越又很偏激的学者，其学术观点已被晚近的研究所推翻。）。
    波尼法斯的“双剑”说吸收了6 世纪伪丹尼斯关于宇宙和教会等级的理论。伪丹尼斯的等级论在中世纪西欧被赋予政治含义，有不少人认为权威均来自上帝，但世俗权威是通过教会的中介而来，与上帝的距离更远，所以地位比教会权威要低（注：D.Luscombe,"Lex divinitatisin Unam Sanctam",in C.N.L.Brooke et al.,ed.,Church andGoverment in the Middle Ages：Essays Presented to C.R.Cheney on His 70[th] Birthday.Cambridge：Cambridge University press,1976,pp.205-221.）。这一学说不仅承认权威有不同的等级，而且强调较低等级在整个等级体制中有不可或缺的作用，反对过分的中央集权。波尼法斯的“双剑”说虽然指出世俗权威来源于教会，但并不否认国家的地位和作用，也绝不包含有建立以教皇为首的政教合一体制的意图。
    教会和国家关系的真正麻烦并不在于“双剑”说这类含糊不清的言论，而在于中世纪西欧复杂的政治现实。教会和国家的分工合作关系说明二者既互相依赖又互相渗透，不可能真正做到“井水不犯河水”，冲突因此也就不可避免。格兰西在《教会法汇要》中对教会与国家关系的这一性质从以下两个方面进行了探讨。
    其一，教皇和君王在政治上的互相否定。这应该是很特殊的情况。中世纪西欧教会法既承认在特定的条件下教皇可以废黜君王，也指出在异端分子篡夺教皇职位时皇帝可以推翻这一教皇。格兰西把誓约列入教会法的权限之内，包括封臣对封君、臣民对君王的效忠宣誓。教会通常要求封臣履行对封君所承担的义务。但正如格兰西所指出的，教皇可以解除臣民对不称职昏君的效忠宣誓、骑士对被罢免主教的封君封臣关系；对被开除教籍的封君，封臣不必尽义务（注：C.15,q.6,d.a.c.3 et cc.3-5;C.22,q.5,d.p.c.17et c.18.）。开除教籍本来只是一种宗教处分，但君王和封君被褫夺教籍就成了政治后果很严重的事件。基督教君王对教会政治的介入也在一定程度上为教会法所承认。格兰西毫无疑问捍卫教会在教皇和主教选举上的自主权，但他同时也意识到争取世俗政权赞同选举的结果不仅有利于巩固教会的政治地位，也便于防止异端分子篡夺重要教职。如果异端分子占据了教皇的位置，教会可能不得不依靠武力来驱逐他，此时自然要借助于世俗君王（注：D.63,d.p.c.25,d.a.c.28,d.a.c.29 et d.p.c.34.）。