中国古代的大一统观念出现颇早。据文献记载，认为自五帝以来声教德化就已经远及于天下四海之广。如《书·益稷》载禹对舜曰：“光天之下，至于海隅苍生，万邦黎献，共惟帝臣。”《书·禹贡》：“东渐于海，西被于流沙，朔南暨，声教讫于四海。”即谓普天之下、四海之内尽为臣仆，因而使声明教化远播四极。这无疑是以大一统的眼光描述舜禹时代。《大戴礼记·五帝德》说颛顼时“动静之物，大小之神，日月所照，莫不祇励”；帝喾：“执中而获天下，日月所照，风雨所至，莫不从顺”；帝尧时“四海之内，舟舆所至，莫不说夷’；禹时“四海之内，舟车所至，莫不宾服”。这同样是以大一统的眼光描述五帝时代。但五帝时的势力影响实不足以达到“日月所照”、“舟车所至”的广大范围，对五帝时的大一统描述显然具有过分理想化而导致的夸大倾向。但这种描述有其特定的思想根据，即古人相信，五帝时代在声教德化方面树立了典范，而声教德化所可造成的文化同化与文化影响是无限的，所以在五帝时代出现那样的大一统局面是理所当然的。这涉及古代的一种信念，可举荀子所论做为参照予以解释。荀子在论到以仁义德化天下的效果时说道：“则天下应之如讙……故近者歌讴而乐之，远者竭蹶而趋之。四海之内若一家，通达之属，莫不从服……《诗》曰：‘自西自东，自南自北，无思不服。’此之谓也。”（《荀子·儒效》）由荀子所论可知，因为古人认为五帝时代是太平盛世，以声教德化临天下，因而也必然出现天下四海如一家的大一统局面。总之，古代的大一统观念产生较早，而最早的大一统局面，古人认为不是靠武力征服所致，而是声教德化式的文治典范。与此相关，先秦时代也谈论“一天下”的问题，但这是分封制下的“一天下”问题。如《尸子·贵言》：“臣天下，一天下也。一天下者，令于天下则行，禁焉则止。桀纣令天下而不行，禁焉不止，故不得臣也。”（汪维培辑本《尸子》）按其谓“一天下”不过是殷周制度下天子对诸侯的令行禁止局面。《荀子·正论》：“古者天子千官……以是千官也，令行于诸夏之国，谓之王。”据此则《尸子》所谓“一天下”即荀子所谓分封制下的王天下。《荀子》多处论及“一天下”及“天下为一”（见《荀子》《非十二子》《王制》等），《王制》篇且谓“无尧舜者一天下也”，则其所谓“一天下”也未出分封制格局。孟子也论及“一天下”的问题。《孟子·梁惠王》谓天下“定于一”，且是“不嗜杀人者能一之’。所以孟子所谓：“一天下”，仍是前述那种以仁义德教致天下四海为一家的一统模式。这些就是《公羊传》大一统概念提出的思想背景，它显然有别于秦汉时以郡县制为现实根据的政治大一统观念。
    如前所言，由于分封制存在着政治上的分裂因素，因而天子为维持政令一统就不得不更多借助于文化上的弥合力量。与此相应，上古的政治体制确被认为主要是靠文教德化的力量维系起来的。如尧舜禹三王时代就被认为是如此。《汉书·贾捐之传》谓尧舜禹时代“声教迄于四海，欲与声教则治之，不欲与者不强治也。故君臣歌德，含气之物各得其宜。武丁、成王，殷周之大仁也……是以颂声并作，视听之类咸乐其生，越裳氏重九译而献。此非兵革之所能致。”就是说，尧舜禹三王时代乃是以声教文德的感化力量扩大政治影响，而不是以武力方式强制征服天下。《左传》成公二年说：“四王之王也，树德而济同欲焉，”杜预谓四王指禹、汤、文、武。即三代是以推行德教和加强文化认同感的方式治理天下的。《左传》文公六年曾以“君子曰”的方式对古代圣王的治化方略进行评议总结，很值得注意。其中说道：“古之王者，知命之不长，是以并建圣哲，树之风声，分之采物，著之话言，为之律度，陈之艺极，引之表仪，予之法制，告之训典，教之防利，委之常秩，道之以礼则，使无失其土宜，众隶赖之，而后即命，圣王同之。”即古代的圣王已经意识到，为超越自己有限的生命时效而施加长远的政治影响，必须建立一套有效的人文道德法则，以供世人效法取鉴。为此设计了诸多具有文化浸润力的政治措施。试看此措施的每一项具体内容，都注重于文化上的感染和示范作用，最终为达到能从舆论风化上引导社会的效果。总之，加强文化认同感，以弥补政治力量之所不济，这至少是周室一统为何建立于礼制之上的重要原因，也能为我们理解《公羊传》大一统提供文化上的启示。
    二、大一统与夷夏分治
    从以上所述五帝以来注重文化引导方式的政治特点为据，可进一步分析先秦时期的大一统模式。分封制下的政治局面如果以文化为分野，一般可划分为内诸夏与外夷狄两个大的层次，《公羊传》成公十五年：“《春秋》内其国而外诸夏，内诸夏而外夷狄。”《春秋》关于诸夏与夷狄的划分，基本是文化上的原则，具体讲即周礼。这一点对于我们解析周代社会的历史文化，是至关重要的。首先，从天下这个观念层次上看，展现的是诸夏与四夷之间的关系问题。其次，从中国这个观念层次上看，展现的是诸夏诸侯之间的关系问题。虽然在总的统治方式上都注重于文化上的引导，但两个层次之间存在着较大区别。首先对于四夷，中原王朝一般采用修文德以徕远人的文化抚绥政策，不大主张用武力征服的方式。《论语·季氏》：“故远人不服，则修文德以徕之。”即指的这种文化抚绥政策。从文献记载中可举出具体例证。如《韩非子·五蠹》：“当舜之时有苗不服，禹将伐之。舜曰：‘不可，上德不厚而行武，非道也。’乃修教三年，执干戚舞，有苗乃服。”这里舜拒绝采用武力，而是以修文德之法感化有苗，使之臣服。《左传》僖公十九年：“文王闻崇德乱而伐之，军三旬而不降，退修教复而伐之，因垒而降。”这里采用武力征伐与修文德相结合的双重办法，但叙述者所看重实现的还是文王修文德方面的感化作用。从理论上讲，中原王朝一般不主张征伐四夷，但当四夷做乱或内乱而使中原王朝的安全受到威胁时，才使用武力方式。但一般止于抚绥臣服而止，不主张对之残酷的镇压杀戮。如《公羊传》庄公三十年：“齐人伐山戎。此齐侯也。其称人何？贬。曷为贬？子司马子曰：“盖以操之为己蹙矣。”此盖战也，何以不言战？春秋敌者言战，桓公之与戎狄，驱之尔。”何休注：“时桓公力但驱逐之而已。戎亦天地之所生，而乃迫杀之甚痛。故去战，贬见其事，恶不仁也。”即主张对来犯的戎狄击退而止，反对桓公迫杀过甚的做法，以为未免不仁。中原王朝对待四夷，主要就是这种抚绥之策。《书·舜典》：“柔远能迩，惇德允元……蛮夷率服。”《诗·大雅·民劳》：“柔远能迩，以定我王。”所言都包括抚绥四夷之策。此外，中原王朝一般不再把四夷接纳为如诸夏诸侯那样的正式臣属成员。这里有观念上的问题，如《汉书·韩安国传》：“自三代之盛，夷狄不与正朔服色，非盛不制，强弗能服也。以为远方绝地不牧之民，不足烦中国也。”《白虎通义》七：“夷狄者，与中国绝域异俗，非中和气所生，非礼义所能化，故不臣也。”即认为四夷文化落后，与中原礼俗差异太大，很难使之彻底同化，因此一般不接纳他们为正式臣属成员，只做为笼络羁縻的对象。由于中原具有先进的礼乐文化制度，因此可以吸引四夷的向化归附，四夷归附后一般要向中原王朝朝觐入贡。《周官·夏官·怀方氏》：“掌来远方之民，致方贡，致远物。”郑注：“远方之民，四夷之民也，谕德延誉以来之。”即以宣示文德的方式，招徕四夷之民。但中原王朝与四夷之间所结成的仅是一种松散的隶属关系。由于这对中原王朝安靖边地和维护诸夏的安全有所裨益，因此构成其抚绥四夷政策的主要方式。从秦汉开始，中原王朝有时也在四夷居地设置郡县，从而使之与内地合为一体，被正式接纳为中原王朝的编户齐民。这是秦汉以下随着大一统观念的更为开放，使大一统局面也日益扩大的一个表现。