中书门下系由政事堂改称而来，政事堂最先设在门下省，高宗去世（683年）后，裴炎自侍中除中书令，执政事笔，遂移政事堂于中书省（注：关于政事堂从门下省迁往中书省的时间和背景，参刘健明《裴炎迁政事堂事件考析》，《严耕望先生纪念论文集》，台北稻香出版社，1998年。）。开元十一年（723年）改政事堂为中书门下时，未见有移址的记载，中书门下仍然设在中书省。故中书侍郎同平章事一方面是中书门下的长官，同时名义上也是中书省的长官。大历十二年（777年）中书侍郎同平章事杨绾卒后，“时既无中书侍郎，舍人崔祐甫领省事，衮以为同中书门下平章事兼得总中书省，遂管综中书胥吏、省事去就及其案牍，祐甫不能平之，累至纷竞”（注：《旧唐书》卷119《常衮传》、《册府元龟》卷338《宰辅部·专恣》。）。在中书侍郎阙职的情况下，中书舍人就可以作为中书省的领导者承担起应有的权力与责任。其实，当时有中书令郭子仪，因在外做节度使，不能领导中书省，故崔祐甫以舍人领省事。这是中书侍郎作为中书省长官的例证。中书侍郎同平章事和门下侍郎同平章事与中书省的关系还是有所区别的。但是，常衮以门下侍郎同平章事的身份想要兼管中书省，也正说明了中书门下设在中书省，是中书、门下两省纳入中书门下领导之下的反映。在安史之乱以后的长时间里，中书门下与两省的关系始终处于一种过渡时期的冲突之中。
    安史之乱以后，宰相格局在长时间内维持中书侍郎与门下侍郎平行的局面，宰相之间的矛盾都是在中书侍郎同平章事与门下侍郎同平章事之间展开的。门下侍郎同平章事为了与中书侍郎同平章事争夺对中书门下的控制权，便需要杜绝来自中书舍人的威胁，因为中书侍郎与中书舍人在名义上有领导与被领导的关系。《南部新书》乙载：“政事堂旧有后门，盖宰相时过舍人院，咨访政事，以自广也。常衮塞之，以示尊大”（注：又，《唐会要》卷53杂录载：建中四年，常衮为中书侍郎平章事。政事堂旧有后门，盖宰相过中书舍人院，咨访政事。衮欲自尊大，乃塞其门，以绝往来。《旧唐书·常衮传》此事不记时间。根据《旧唐书·德宗纪》、《旧唐书·常衮传》及《新唐书》宰相表等，知建中四年误，或为大历十四年；中书侍郎平章事当为门下侍郎平章事。）。舍人院是中书侍郎同平章事据以自广的阵地，所以担任门下侍郎同平章事的常衮要将其门闭塞。《旧唐书·杨炎传》记建中二年杨炎和卢杞的斗争：
    旧制，中书舍人分押尚书六曹，以平奏报，开元初废其职。杞请复之，炎固以为不可。杞益怒，又密启中书主书过，逐之。炎怒曰：“主书，吾局吏也，有过吾自治之，奈何而相侵？”
    门下侍郎同平章事卢杞请复舍人六押之制，是为了压制中书侍郎同平章事杨炎，说明舍人六押之制对中书侍郎不利。但杨炎所说中书主书是自己的局吏，正说明中书侍郎同平章事之所以比门下侍郎同平章事居于实力地位，就在于其与中书省官属保持着密切的联系，在中书门下办事的那些中书省官吏名义上是中书侍郎的属官（注：参俞刚《唐后期中书、门下侍郎平章事职权的变化及特点》。）。而卢杞以门下侍郎的身份逐之，是一种相侵的行为，说明当时两省的界限是分明的。建中三年（782年）六月诏，中书、门下两省各置印一面（注：《唐会要》卷54《省号上·中书省》。），便是两省区分的表现。
    尽管中书省的官吏依然被看成是中书侍郎同平章事的属官，但是，中书省与中书门下的分离趋势亦日渐明显。在这个分离过程中，中书省逐渐向以中书舍人为首的专门负责撰写制敕的机构过渡（注：《春明退朝录》卷上引唐裴廷裕《正陵遗事》云：“舍人上事，知印宰相当压角”。说明中书舍人成为宰相领导下的起草制敕的机构。）。其中一个重要的表现，就是舍人院相对独立于中书门下之外（注：不过，因为中书门下设在中书省，中书舍人有时也可称为中书门下舍人。如《唐会要》卷69《剌史下》载大中元年正月敕：“自今以后，谏议大夫、给事中、中书门下舍人，未尝曾任剌史县令及在任有败累者，并不在进拟之限”。）。常衮堵塞的政事堂后门，就是中书门下通往舍人院之门。《唐摭言》卷3“过堂”条记主司领新进士见宰相之后，复见中书舍人，“主司复长揖，领生徒退诣舍人院”。相对独立的舍人院的存在，本身就是中书省朝着以中书舍人为首的专门负责撰写制敕机构过渡的证明。
    以中书舍人为长官的独立的舍人院的存在，还可以从中书舍人有独立的公厨得到说明。唐代内外官员有公厨会食的制度，所谓“京百司至于天下郡府，有曹署者则有公厨”（注：《全唐文》卷612《虔州孔目院食堂记》。参拜根兴《试论唐代的廊下食与公厨》，载《唐代的历史与社会》，武汉大学出版社，1997年。）。公厨是按照机构设立的，同一机构不同级别的官员，在同一个公厨会食。如《唐语林》卷8载御史台会食的座次为，“杂端在南榻，主簿在北榻，两院则分坐。虽举匕箸，皆绝谭笑”。而据《旧唐书·李泌传》载，李泌入相后，“又奏请罢拾遗、补阙，上虽不从，亦不授人。故谏司惟韩皋、归登而已。泌仍命收其署餐钱，令登等寓食于中书舍人。故时戏云：‘韩谏议虽分左右，归拾遗莫辨存亡’。如是者三年”。
    在舍人院内部，有了一定的职权分化，其中一位年深的中书舍人成为实际上的主事者。《旧唐书·杨绾传》载，肃宗时，杨绾“迁中书舍人，兼修国史。故事，舍人年深者谓之阁老，公廨杂料，归阁老者五之四。绾以为品秩同列，给受宜均，悉平分之。甚为时论归美”。而在众位中书舍人中有实际上的长官，也是舍人院成为独立机构的需要。
    中书舍人之外，中书主书、主事等主管文书的胥吏系统在中书门下和中书省之间处于一种什么状态呢？其中有一些成为中书门下的堂后官，其地位和作用更加突出，成为唐代中后期影响中央政局的一支重要力量（注：参拙稿《唐代中书门下机构建制考》，《北大史学》7辑，北京大学出版社，2000年。）。至于中书省本身是否还有一些胥吏，包括令史、书令史等，史无明文，难以稽考。或者中书省的胥吏只是作为兼职充任中书门下堂后官的，其本职还在中书省。
    总之，中书门下体制建立之后的中书省，由三省制下皇帝的机务秘书机关和宰相构成的一部分，成为了超越于三省之上的宰相府署所依托的办事机构。原中书省的副长官中书侍郎成为了中书门下的首长，尽管在名义上他还是中书省的长官，但中书省有逐渐走向独立的趋势，作为宰相独立府署的中书门下与中书省逐渐分离，中书省向以中书舍人为长官的专门负责撰写制敕的机构过渡。作为中书门下首长的中书侍郎同平章事与唐前期作为中书省副长官的中书侍郎，其地位和职权都发生了很大的变化，并影响到中书省机构设置和职权性质的转变。三省制下中书舍人在决策过程中的最重要作用是“参议表章”（注：李蓉：《唐代前期中书舍人参议表章问题》，北京大学硕士研究生学位论文，1995年。），中书门下体制下中书舍人的职掌，从开元时期以参议表章为主，转变为以起草制敕为主。且起草制敕之职逐渐使职化，形成为“知制诰”制度，并逐渐形成与翰林学士的分职。