那末，如何辨别真伪呢？第一，要区分史料的性质。他认为，《史》、《汉》在选择史料时，不仅博征，而且皆“当代雅言，事无邪僻”，所以能够“取信一时，擅名千载”。所谓“当代雅言”，系指政府文件，政府的记录和比较可靠的历史撰述。魏晋著作采用“后来穿凿”的材料，所以记事“乖滥”。所谓“后来穿凿”，指道听途说、传闻失实的记录。史家在选材时必须有这样一个基本估计。
    第二，确定真伪的原则。《史通·载文》篇论文史关系，指出远古文辞不虚美不隐恶，文之将史，其流一焉。秦汉以降，文体大变，务以淫丽为宗，喻过其体，词设其义，繁华失实，记事虚伪。他指出只有五失，一曰虚设，二曰厚颜，三曰假手，四曰自戾，五曰一概。他说：考兹五失，以寻文义，虽事皆形似，而言必凭虚。行之于世，则上下相蒙；传之于后，则示人不信。而世之作者，恒不之察，聚彼虚说，编而次之，创自起居，成于国史。认为取材应该象王邵撰《齐》、《隋》二史，“文皆诣实，理多可信，至于悠悠饰词，皆不之取。此实得去邪从正之理，捐华摭实之义也。”可见，确定真伪的基本原则乃是“拨浮华，采真实”，也就是“去邪从正，捐华摭实”。凡“违理”、“捐实”者当弃之不采。
    要做到去伪存真、捐华摭实实并非易事，需要求史家有高度的见识方可。诚如知几所言：“夫人识有不烛，神有不明，则真伪莫分，邪正靡别。”（《史通·暗惑》）他列举昔人有以发绕炙误其国君，置毒于胙诬其太子的记载，然发经炎炭，必致焚灼；毒味经时，无复杀害。结果行之者伪成其事，受之者信以为然。其实都是无稽之言。史传记载亦是这样。“其有道理难凭，欺诬可见。”（同上）这里所说的“道理”，即指事理、情理，是据理以推渐其真伪。
    此外，考察记当是否符合于自然规律，即“理”，违犯自然规律的记事必然是伪造的。如《史记·五帝本纪》云重华入于井中，匿空旁出。刘知几认为：“时不可移，祸有必至，虽大圣所不能免。若姬伯拘于羑里，孔父厄于陈、蔡是也。然俗之愚者，皆谓彼幻化，是为圣人。岂知圣人智周万物，才兼百行，若斯而已，与夫方内之士有何异哉！”（《暗惑》）重华匿空旁出不符合自然规律，定然是伪造无疑。
    考察记事是否符合于社会实际情况。如《东观汉记》载郭伋事：郭伋为并州牧，行经西河美稷，有儿童数百骑竹马相迎，并且约定归还日期。郭伋归还时早到一日，于是“止于野亭，须期乃入。”刘知几批评此事不可信有三。汉代州牧出行，“前驰蔽野，后乘塞路，鼓吹沸喧，旌棨填咽”，儿童们“非惟羞赧不见，亦自惊惶失据。”怎能去欢迎？这是一。又州牧出行，举州振肃。必然是群臣颙然伫候迎送，“行李有程，严备供具，憩息有所。”“安得轻赴数童之期，坐失百城之望。”这是二。又，“晋阳无竹”，“访诸商贾，不可多得”。“群戏而乘，如何克办？”这是三。（《暗惑》）此等虚伪记事，经不起分析，了无一实，不过是夸张郭伋是个好官而已。
    考察记事是否自相矛盾。如果据实而书则必然前后连贯，因果灿然，如果伪造故事，那就容易矛盾百出，前言不搭后语。比如司马迁在《史记·吕不韦列传》里说：吕不韦为秦相国，使门客撰《吕氏春秋》。而在《报任安书》中则说“不韦迁蜀，世传吕览”。两相矛盾，说明《报任安书》叙事不可信，“识有不该，思之未审”。（《杂说上》）
    知几考察记事之真实虚伪，充满《史通》。他看到已往史籍“或采彼流言，不加铨择，或传诸缪说，即从编次。用使真伪混淆，是非参错。”所以他告诫人们：“书彼竹帛，事非容易，凡为国史，可不慎诸！”（《暗惑》）我们可以这样说，刘知几对史书史料的考证辨伪工作有着深刻的认识和札实的贡献，不愧为我国古代一位考据辨伪学的先驱。