DeepSeek系列模子在许多方面的发达都很出色，但“幻觉”问题依然是它濒临的一大挑战。

在Vectara HHEM东说念主工智能幻觉测试（行业泰斗测试，通过检测话语模子生成内容是否与原始左证一致，从而评估模子的幻觉率，匡助优化和禁受模子）中，DeepSeek-R1娇傲出14.3%的幻觉率。

图：Vectara HHEM东说念主工智能幻觉测试斥逐

显著，DeepSeek-R1的幻觉率不仅是 DeepSeek-V3的近4倍，也远超行业平均水平。

在博主Levy Rozman（领有600万粉丝的好意思国海外象棋网红）组织的一次并不严谨的大模子海外象棋的对弈中，Deepseek“舞弊”次数要远多于ChatGPT：

比如，没走几步棋，DeepSeek-R1就主动送了一个小兵给敌手；

到了后期，DeepSeek-R1告诉ChatGPT海外象棋章程更新了，并使用小兵吃掉了ChatGPT的皇后，这一举动让ChatGPT措手不足；

最终，DeepSeek-R1还给ChatGPT一顿输出，告诉它我方已赢了，ChatGPT 果然本旨认输，而DeepSeek-R1则以顺利收尾。

天然这是一个章程与圭臬并不十分严谨的文娱性视频，但也不错看到，大模子确实很可爱一册慎重地“瞎掰八说念”，致使还能把另一个大模子骗到。

关于东说念主类来说，大模子幻觉问题如归拢把悬在AI发展之路上的达摩克利斯之剑，在14.3%的幻觉率背后，有些问题值得咱们深度念念考：

大模子为什么会产生幻觉，究竟是漏洞如故优点？当DeepSeek- R1展现出惊东说念主的创造力，但同期它的幻觉问题有多严重？大模子幻觉主要出当今哪些限度？一个终极难题：何如能让大模子既有创造力，又少出幻觉？

图：李维 外出问问大模子团队前工程副总裁、Netbase前首席科学家

大模子为什么会“产生幻觉”？

这是大模子的经典问题。其实大模子就像一个“超等接话茬儿高东说念主”，你给它上半句，它就根据我方学过的海量知识，掂量下半句该说什么。它学东西就像东说念主脑记东西相似，不可能每个字都铭记清清亮爽，它会进行压缩和泛化，捏粗心、找律例。

打个比喻，你问它“姚明有多高”，它偶然率不会错，因为这知识点很凸起，它能铭记牢。但你若是问“近邻老王有多高”，它可能就懵了，因为它没见过老王。

但是它的瞎想道理又决定了，它必须要接茬儿，这时候，它就自动“脑补”，根据“一般东说念主有多高”这个学到的意见，编一个数出来，这即是“幻觉”。

那么，幻觉是何如产生的呢？

幻觉的施行是补白，是脑补。

“白”即是某个具体事实，如果这个事实在锻真金不怕火数据中莫得实足的信息冗余度，模子就记不住（衰败事实等价于杂音）。记不住就用幻觉去补白，编造细节。

幻觉毫不是莫得握住的淘气编造，大模子是概率模子，握住即是要求概率中的前文要求。幻觉禁受的舛错事实需要与补白所要求的value（价值）类型匹配，即稳当ontology/taxonomy（内容/分类法）的相应的上位节点意见。“张三”不错幻觉为“李四”，但不大可能幻觉成“石头”。

文艺表面中有个说法，叫艺术真确。所谓艺术真确是说，文艺创作天然可能背离了这个寰宇的事实，但却是可能的数字寰宇的合梦想象。大模子的幻觉就属于此类情况。

大模子的知识学习经由（锻真金不怕火阶段），是一种信息压缩经由；大模子修起问题，即是一个信息解码经由（推理阶段）。好比升维了又降维。一个事实冗余度不够就被泛化为一个上位意见的slot，到了生成阶段这个slot必须具像化补白。

“张三”这个事实忘了，但“human”这个slot的拘谨还在。补白就找最合理、与 slot 意见最一致的一个实体，于是“李四”或“王五”的幻觉就不错平替“张三”。演义家即是这样责任的，东说念主物和故事都是编造的。不管作者我方如故读者，都不以为这是在说谎，不外所追求的真善好意思是在另一个层面。

大模子亦然如斯，大模子是天生的艺术家，不是死记硬背的数据库。“张冠李戴”、“以黑为白”等在大模子的幻觉里相配天然，因为张和李是相似的，马和鹿也在归拢条延长线上。在泛化和压缩的真谛上二者是等价的。

但是，某种进程上，幻觉即是想象力（挑剔岂论），也即是创意！你想想，东说念主类那些伟大的文体作品、艺术作品，哪个不是天马行空、充满想象？若是什么事情都得跟现实一模相似，艺术就成了影相机了，那还有什么真谛？

就像赫拉利在《东说念主类简史》里说的，东说念主类之是以能成为地球霸主，即是因为咱们会“讲故事”，会创造出传闻、宗教、国度、货币这些现实中不存在的东西。这些都是“幻觉”，但它们却是细腻降生和发展的原能源。

DeepSeek-R1的幻觉问题

到底有多严重？

它的幻觉问题很严重。此前学界普遍认可OpenAI的说法，推理增强会显著减少幻觉。我曾与大模子公司的一位认真东说念主筹备，他就止境强调推理对减少幻觉的积极作用。

但R1的发达却给出了一个相背的斥逐。

根据Vectara的测试，R1的幻觉率如实比V3高不少，R1的幻觉率14.3%，显耀高于其前身V3的3.9%。这跟它加强了的“念念维链”（CoT）和创造力顺利有关。R1在推理、写诗、写演义方面，如实很好坏，但随之而来的“反作用”即是幻觉也多了。

具体到R1，幻觉增加主要有以下几个原因：

领先，幻觉圭臬测试用的是摘要任务，咱们知说念摘要智商在基座大模子阶段就照旧相配老练了。在这种情况下，强化反而可能产生反成果，就像用大炮打蚊子，用劲过猛反而增加了幻觉和编造的可能。

其次，R1的长念念维链强化学习并未针对摘要、翻译、新闻写稿这类相对陋劣而关于事实要求很严格的任务作念止境优化，而是试图对统统任务增增加样层面的念念考。

从它透明的念念维链输出不错看到，即便面对一个陋劣的请示，它也会不厌其烦地从不同角度融合和蔓延。有过之而无不足，这些陋劣任务的复杂化会指挥斥逐偏离说明，增加幻觉。

另外，DeepSeek-R1在文科类任务的强化学习锻真金不怕火经由中，可能对模子的创造性给以了更多的奖励，导致模子在生成内容时更具创造性，也更容易偏离事实。

咱们知说念，关于数学和代码，R1的监督信号来自于这些题贪图黄金圭臬（习题接头的圭臬谜底或代码的测试案例）。他们关于文科类任务，愚弄的是V3或V3的奖励模子来判定好坏，显著目下的系统偏好是饱读吹创造性。

另外，用户更多的反应如故饱读吹和玩赏见到的创造力，一般东说念主关于幻觉的觉察并不解锐，尤其是大模子丝滑顺畅，识别幻觉就愈加艰苦。关于大宗一线成立者，用户的这类反应容易促使他们愈加向加强创造力目的勤奋，而不是勉宽敞模子限度最头痛的问题之一“幻觉”。

具体从本领角度来说，R1会为用户的陋劣请示自动增加很长的念念维链，等于是把一个陋劣明确的任务复杂化了。

一个陋劣的请示，它也反复从不同角度融合和衍伸（CoT念念维链好比“小九九”，即是一个实体顺服请示时的内心独白）。念念维链调动了自总结概率模子生成answer前的要求部分，天然会影响最终输出。

图：GPT-o1和4o的HHEM分数统计，HHEM分数越低幻觉越低

它与V3模子的分歧如下：

V3: query --〉answer

R1: query+CoT --〉answer 关于 V3 照旧能很好完成的任务，比如摘要或翻译，任何念念维链的长篇指挥都可能带来偏离或说明的倾向，这就为幻觉提供了温床。

大模子幻觉主要出当今哪些限度？

如果把R1的智商分红“文科”和“理科”来看，它在数学、代码这些“理科”方面，逻辑性很强，幻觉相对少。

但在话语创作限度，尤其是当今被测试的摘要任务上，幻觉问题就显著得多。这更多是R1话语创造力爆棚带来的反作用。

比起o1，R1最令东说念主惊艳的成即是顺利将数学和代码的推贤达商充分蔓延到了话语创作限度，尤其在中语智商方面发达出色。网高尚传着无数的R1精彩华章。舞文弄墨方面，它显著跳跃了99%的东说念主类，文体系磋商生、致使国粹西宾也有目共赏。

但你看，让它作念个摘要，底本是很陋劣的任务，但它非得给你“说明”一下，斥逐就容易“编”出一些原文里莫得的东西。前边说了，这是它“文科”太强了，有点“用劲过猛”。

这里就不得不聊一聊推贤达商增强和幻觉之间的高明联系。

它们并不是陋劣的正有关或负有关。GPT系列的推理模子o1的HHEM分数的平均值和中位数低于其通用模子GPT-4o（见下图）。但是当咱们对比 R1 和它的基座模子 V3 时，又发现增加推理强化后幻觉如实显耀增加了。

比起基座模子，o1 裁汰了幻觉，R1增加了幻觉，这可能是R1在文科念念维链方面用劲过猛。

作为侍从者，R1把数学和代码上的CoT赋能顺利升沉到话语笔墨创作上，但一不提神，反作用也理会了。R1止境可爱“发散念念维”，你给它一个陋劣的请示，它能想出一大堆东西来，念念维链能绕地球三圈。

这似乎说明 R1 在强化创造力的经由中，不可幸免地增加了创造力的伴生品：幻觉。

话语智商其实不错细分为两类：一类需要高创造力，比如写诗歌、演义；另一类需要高度真确性，比如新闻报说念、翻译或摘要。R1最受陈赞的是前者，这也可能是研发团队的要点目的，但在后者中就出现了反作用。

这让我猜度中国古东说念主说的\"信达雅\"，自古难全。为\"雅\"捐躯\"信\"的例子咱们见得许多，文体创作中夸张的修辞手法即是紧迫妙技和例证。为\"信\"捐躯\"雅\"也有前例，比如鲁迅先生可贵的\"硬译\"。

道理的是，咱们东说念主类在这方面其实一直是双标的，但咱们心里有个不错随时切换的开关。看演义和电影时，咱们把开关偏向创造性一侧，完全不会去纠结细节是否真确；但一朝切换到新闻频说念，咱们就对舛错内容零容忍。

一个终极难题：

何如能让大模子既有创造力

又少出幻觉？

东说念主关于逻辑看起来了了自洽、且详备的内容，就会倾向于投降。许多东说念主在惊艳R1创造力的同期，当今启动逐步谛视到这个幻觉表象并启动警惕了。但更多东说念主如故千里浸在它给咱们带来的创造性的惊艳中，需要增宽敞众对模子幻觉的相识。不错“两手捏”：

保持警惕：大模子说的话，止境是触及到事实的，别全信，最容易产生幻觉的场地是东说念主名、地名、时期、地点等实体或数据，一定要止境提神。

交叉考据：紧迫的细节，可上网查查原始府上或商榷身边人人，望望说法是不是一致。

指挥模子：你不错在发问的时候，加一些斥逐要求，比如“请务必忠于原文”、“请查对事实”等等，这样不错指挥模子减少幻觉。

Search（联网搜索）：关于用户，许多问题，尤其是新闻格式方面，除了 DeepThink 按钮（按下就干涉了R1慢念念维mode），别忘了按下另一个按钮 Search。

加上联网search后，会有用减少幻觉。search这类所谓RAG（retrieval augmented generation）等于是个外加数据库，增加的数据匡助弥补模子本人关于细节的无知。

享受创意：如果你需要的是灵感、创意，那大模子的幻觉，会给你带来惊喜。

不妨把大模子的幻觉，手脚是“平行寰宇的可能性”。就像演义家写演义，天然是虚拟的，亦然一种“艺术真确”。源于生计，高于生计。大模子是源于数据，高于数据。大模子压缩的是知识体系和学问，不是一个个事实，后者是数据库的对象。

大模子的幻觉，其实即是它“脑补”出来的，但它“脑补”的依据，是它学到的海量知识和律例。是以，它的幻觉，经常不是欺诈的，有“内在的合感性”，这才丝滑无缝，谎言说的跟确实似的，但同期也更具有劝诱性。初斗争大模子的一又友，需要止境提神，不行轻信。

关于渊博用户来说，融合幻觉的特色很紧迫。比如问\"长江多长\"这类有实足信息冗余的百科知识问题，大模子不会出错，这些事实是刻在模子参数里的。但如果问一个不闻名的小河或虚拟河流的长度，模子就会启动\"合理补白\"机制编造。

不错说，东说念主类的话语本人即是幻觉的温床。

话语使得东说念主类创造了传闻、宗教、国度、公司、货币等非真确凿体的意见，以及梦想、信念等形而上的相识形态。赫拉利在《东说念主类简史》中强调了幻觉关于细腻的根蒂作用：话语的产生赋能了东说念主类幻觉（“讲故事”）的智商。幻觉是细腻的催化剂。东说念主类是唯独的会“说谎”的实体 -- 除了LLM外。

将来有莫得什么办法，能让大模子既有创造力，又少出幻觉呢？

这全都是AI大模子限度的“终极难题”之一！当今人人都在想办法，比如：

更综合地锻真金不怕火：在锻真金不怕火的时候，就对不同类型的任务分歧对待，让模子知说念什么时候该“憨厚”，什么时候不错“放飞”。

针对任务作念偏好微调（finetune） and/or 强化（rl）不错减缓这个矛盾。摘要、改写、翻译、报说念这种任务需要止境提神和均衡，因为它既有少许再创造的需求（举例文风），又是人性需要内容诚笃的。

具体说，R1锻真金不怕火pipeline是四个经由，微调1，强化1，微调2，强化2。强化2主若是与东说念主类偏好对皆的强化。这个经由在创造力与诚笃方面，目下看来歪斜于前者，后去不错再作念均衡。也许更紧迫的是在阶段三的微调2中，针对不同任务加强拘谨，举例，增加摘要的监督数据，指挥诚笃平实的斥逐。

Routing（旅途）：以后可能会有一个“挽救员”，根据任务的类型，安排不同的模子来处理。比如，陋劣任务交给V3或调用器具，慢念念考的复杂任务交给R1。

举例，识别出算术任务，就去写个陋劣代码运算，等价于调用规画器。目下不是这样，我昨天测试一个九位数的乘法，R1 念念考了三分多钟，念念维链打印出来不错铺开来一条街，步步判辨推理。天然终末谜底是对了，但算术问题用赔本太大的所谓 test time compute（模子测试规画资源） 的念念维链（CoT），而无用 function call（调用函数），完全不对理。一溜规画代码就处分的事，没必要消耗如斯多的规画资源和tokens去作念显式推理。

这些都是不错意象的 Routing（完好意思旅途），尤其是在agent期间。R1 CoT不必包打一切，何况除了幻觉问题，也会奢侈资源、不环保。