刘知幾要求文学与史学分离，还表现在对历史撰述中“载文”的处理上。他认为魏晋以来文章华而不实，“其失有五：一曰虚设，二曰厚颜，三曰假手，四曰自戾，五曰一概”。所谓虚设是指徒有其文、竟无其事，如禅书、让表之类；厚颜指诰誓移檄文之饰词矫说；假手是指由文人代笔的诏敕之文言行相悖；自戾指所言自相矛盾；一概是指不论所述对象，其说不殊。“于是考兹五失，以寻文义，虽事皆形似，而言必凭虚。”这样的文章与不虚美不隐恶之史学已分道扬镳，若载入史书之中，必定损害其真实性。“是以行之于世，则上下相蒙；传之于后，则示人不信。”因此应弃之不取。他批评撰史者不知鉴别，多载凭虚之文，将史著变成了文集。“而世之作者，恒不之察，聚彼虚说，编而次之，创自起居，成於国史，连章疏录，一字无废，非复史书，更成文集。”因此，他提出史之载文应去邪从正、捐华摭实，选择那些“文皆诣实，理多可信”“言成轨则，为世龟镜”的文章，“至於悠悠饰词，皆不之取”，希望以此纠正不良文风。“凡今之为史而载文也，苟能拨浮华，采贞实，亦可使夫雕虫小技者，闻义而知徙矣。”[1](P124)
    魏晋以来，文士撰史蔚然成风，因而形成了以文衡量史学的风气。如裴子野撰《宋略》被讥笑文彩不足。“裴氏乃是良史之才，了无篇什之美。”[10](P691)王隐锐意撰晋史，被认为“虽好著述，而文辞鄙拙，荒舛不伦”[11](P2143)。刘知幾对这种风气予以尖锐的批评。在他看来，这显然是以文学标准来要求史家撰述，即“以徐公文体，而施诸史传”，偏离了史家叙事之道。刘祥《宋书序录》曾指责何法盛、王隐、徐广所撰之晋史未能做到文采飞扬：“法盛《中兴》，荒庄少气，王隐、徐广，沦溺罕华。”他斥之为鉴识不明：“以此诋诃，知其妄施弹射矣。”[1](P205)
    刘知幾有关文史分途的认识，深刻地影响了后来学者。清代史学理论家章学诚在其基础上进一步对二者进行区分，指出“文人之文，与著述之文不可同日语也。著述必有立于文辞之先者，假文辞以达之而已”。“文士撰文，惟恐不自己出。史家之文，惟恐出之于己，其大本先不同矣。”[12](P50、125)基于这种认识，他明确提出文人不能修史。
    刘知幾力辨文人之文与史家之文，反对文人修史，旨在清除魏晋以来史学因模仿文学而出现的“国史之文，日伤烦富”的浮华风气。他指出，两汉以后，“史道陵夷，作者芜音累句，云蒸泉涌。其为文也，大抵编字不只，捶句皆双，修短取均，奇偶相配。故应以一言蔽之者，辄足为二言；应以三句成文者，必分为四句。弥漫重沓，不知所裁”[1](P174)。而盛于梁朝的骈体文也为史家所效仿。“自梁室云季，雕虫道长。平头上尾，尤忌于时；对语俪辞，盛行于俗。始自江外，被于洛中。而史之载言，亦同于此。”[1](P512)他认为，这种叙事“华多于实，理少于文，鼓其雄辞，夸其俪事”[1](P82)，以文害义，必须正本清源。刘知幾不赞成以文士之文写史，并不意味着他认为历史撰述不需要讲求叙事之美，而是强调文史分途以后史家叙事有别于文章写作。如“假托古词，翻易今语”“持彼往事，用为今说”等，他认为“置于文章则可，施于简册则否矣”[1](P178)。也就是说，文学的修辞，并不适合历史叙事。
    刘知幾深知“言之不文，行之不远”，故而认为史家叙事也要注意修辞。他指出：“古者行人出境，以词令为宗；大夫应对，以言文为主。况乎列以章句，刊之竹帛，安可不励精雕饰，传诸讽诵者哉?”[1](P173)他心中理想的叙事是文而不丽、质而非野、隽永含蓄。“夫史之称美者，以叙事为先。至若书功过，记善恶，文而不丽，质而非野，使人味其滋旨，怀其德音，三复忘疲，百遍无斁。”这是要求史学叙事要富有文彩却不绮靡、朴素而不粗俗，余音缭绕，回味无穷。刘知幾认为孔子所撰的《春秋》《尚书》达到了这种境界。“昔圣人之述作也，上自《尧典》，下终获麟，是为属词比事之言，疏通知远之旨。子夏曰：‘《书》之论事也，昭昭然若日月之代明。’扬雄有云：‘说事者莫辨乎《书》，说理者莫辨乎《春秋》。’然则意指深奥，诰训成义，微显阐幽，婉而成章，虽殊途异辙，亦各有差焉。谅以师范亿载，规模万古，为述者之冠冕，实后来之龟镜。”[1](P165)所谓“微显阐幽，婉而成章”出自《左传》对《春秋》的赞美：“《春秋》之称，微而显，志而晦，婉而成章，尽而不污，惩恶而劝善，非圣人，谁能修之?”[13](P870)史学叙事要达到这种理想的境界，则须“尚简”“用晦”，杜绝妄加文饰。刘知幾指出：“夫国史之美者，以叙事为工，而叙事之工者，以简要为主。简之时义大矣哉!”[1](P168)所谓尚简是要求以简洁的文字记述丰富的内容，即文约而事丰。因此，史家叙事在方法上或直纪其才行者，或唯书其事迹者，或因言语而可知者，或假赞论而自见者，不必重复；在文字上须省字、省句，删去浮词、赘文。用晦则要求叙事微婉、言已尽而意无穷，旨在使简洁的叙事具有含蓄之美。刘知幾指出：“晦也者，省字约文，事溢于句外。”主要是通过“略小存大，举重明轻，一言而巨细咸该，片语而洪纤靡漏”的“用晦之道”，以达到“言近而旨远，辞浅而义深，虽发语已殚，而含义未尽。使夫读者望表而知里，扪毛而辨骨，睹一事于句中，反三隅于字外”[1](P173-174)。如《尚书》中的《虞书》记帝尧之盛德，云“帝乃殂落，百姓如丧考妣”；《夏书》记夏禹忘家忧国，云“启呱呱而泣，予不子”；《周书》记商纣王之暴虐、百姓对其的憎恶，则称“前徒倒戈，流血漂杵”。凡此等等，其言近辞浅但旨远义深，远非志在炫耀文彩之文士之文所能达到。“此皆文如阔略，而语实周赡。故览之者初疑其易，而为之者方觉其难，固非雕虫小技所能斥苦其说也。”[1](P173-174)通过“尚简”“用晦”使“骈枝尽去”“尘垢都捐”，史书叙事才能典雅而不华丽、质朴而不粗野、含蓄隽永。因此，刘知幾的叙事理论不仅体现了文史分途后史家自觉的史学意识，同时也是对历史叙事的要求与规范。