小二先生 调教 AI曾经在虚构历史，别把DeepSeek们当巨擘

小二先生 调教

最近，一条"有顶流明星在澳门输了 10 亿"的听说火了，个中细节写得娓娓而谈，网友们纷纷臆测，能典质豪宅和私东谈主飞机填补赌债的明星到底是谁。

旋涡之中，多位明星被推上了风口浪尖，杰威尔音乐、黄晓明本东谈主下场辟谣。

最终由公安网安部门查明，此事是有东谈主用了 AI 批驳。

而昨天咱们体验的最新 Gemini 2.0，突破了 AI 文生图可控性问题，指哪改哪，但也意味着图文并茂的以伪乱真在使用上的门槛曾经极低。

太阳下面莫得崭新事，生成式 AI 的施行决定了，AI 有概率生成看似合理但不正确的内容。

但当 AI 越来越能言之省略，越来越多的用户将 AI 生成的谜底奉为模范，越来越多的有心东谈主成心用 AI 虚构事实，那么 AI 幻觉的影响，也就愈加无法遐想。

本就存在好多空缺和创造空间的容颜历史、社会热门，曾经成了 AI 幻觉的重灾地。

AI 拿抓文笔和故事，但容易虚构历史

AI 容易产生幻觉，是一个客不雅事实。文笔出众的 DeepSeek，同期也有着高幻觉率。

凭据 Vectara HHEM 的 AI 幻觉测试，DeepSeek-R1 的幻觉率达到 14.3%，远高于 DeepSeek-V3 的 3.9%。

当我让 DeepSeek-R1 以三国真实的历史配景写故事时，发现它的文笔和情节缱绻得可以，但很容易出当前期点的乖张。

一个例子是，DeepSeek-R1 写的魏文帝曹丕临死前的场景，提到曹丕死时是"建安二十五年冬"，可是，曹丕在黄初七年物化，建安二十五年是曹操骤一火和曹丕称帝的年份。

文中提到的"十五岁那年 …… 铜雀台大宴群臣"亦然错的，曹丕 15 岁时是建安七年，司马懿在曹操辖下担任文学掾是建安十三年，邺城铜雀台始建于建安十五年，前后差了好几年，是以不可能发生这么一幅画面。

雷同的问题，出目下 DeepSeek 写蜀国将领姜维的时候。这个故事的配景是成皆之乱，发生在 264 年，姜维在 228 年投靠蜀国，成为诸葛亮的部下，但文中提到"二十七年前"，默示 237 年姜维还在魏国，昭着是不合的。

更离谱的是，当我让 DeepSeek 帮我遐想，在乌孙生活了半个世纪、70 岁复返长安两年后就病逝的西汉和亲公主刘解忧，可能会留住什么遗言，虽然奏疏写得情真意切，但它竟然提到了东汉末年的蔡文姬小二先生 调教，不合适历史规矩。

我这般咬文嚼字，照实有些为难 AI。为什么大模子有幻觉呢？这是生成式 AI 的展望机制决定的。大模子不是数据库，它们学习的是说话模式和概率漫步，而非明确存储事实，展望"下一个词最可能是什么"，而不是查询"这个事实是否正确"，它们也并不睬解，输出的信息是否是真实的。

而在创意写稿时，模子被激勉推崇创造性，为了让故事绽放，模子会主动"填补空缺"，在历史纪录不及的场地创造场景和对话，不会明确分手"我细目知谈的历史事实"和"为了故事合理而假定的情节"，又加多了出错风险。

AI 出错很往时，但被有心东谈主愚弄，就是另一趟事了。历史博主 @知北遊 就遭逢过这么的糟苦衷，一个网友发给她 AI 编的文件而已，行文作风合适其时的年代，直到她发当前期东谈主事对不上，并动用线下的东谈主脉去考证，才治服皆是伪造的。

图片来自：豆瓣 @知北遊

每个东谈主物的一世，皆是历史的一部分。可是，一种使用 AI 的方式，曾经窒碍了基本的底线。每当明星过世，会出现好多的顾虑著作回归他们的劳动活命，但其中不乏用 AI 俟机掠夺的。

比如写方大同的这篇，行文一股 DeepSeek 味，"临了一条微博"的内容显着是和现实不符的事实乖张，文末致使肆无顾虑地说起，参考了材料，但进行了文学化改编，揣摩了东谈主物的心理行为。

互联网是有回想的，更早之前，一篇自称"梁文锋"的知乎回话，也疑似 DeepSeek 写就。2 月 6 日，DeepSeek 团队出来打假，浮现官方账号唯一三个，微信公众号、小红书、X，其他以 DeepSeek 或者有关认真东谈主形态发布信息的，皆是仿冒账号。

如何处分坏心传播子虚信息的 AI 生成内容，曾经成了微博等平台的新问题。

可是，可以遐想，以后产出这类信息的速率只会越来越快，越来越多的营销号抱上 AI 的大腿张口就来，同期，辩别的老本也会变得越来越高，因为咱们不可能在每个畛域皆是专科东谈主士，总有一款子虚信息顺应你。

咪咪色网

AI 的谜底不等于常识，追忆泉源的事实核查成了刚需

DeepSeek 的爆火，真实地让好多用户知谈和用上了生成式 AI，同期出现了一个奇怪的风物：合计 AI 说的就是对的，微博上隔三差五地出现以 DeepSeek 为主语的热搜，替代了从前的"群众说"。

大模子给出的信息不等同于常识，轻信 AI、将 AI 当作巨擘的末端是，不走心的东谈主类容易上当上圈套。

最近就有一个身先士卒的例子，上海译文出书社的陀念念妥耶夫斯基精选集，履行案牍里援用了"鲁迅"的评价，但这句话并不是鲁迅说的。博主 @文雅稗类 查证了一番，虽然莫得原始出处，但一个模拟鲁迅的文心智能体的回答里，提到了这一句。

图片来自：微博 @文雅稗类

幽默的事情发生了，坚决到问题后，援用了子虚评价的营销推文，把"鲁迅说"裁剪成了"有东谈主说"。

可是，以谣传讹，传的东谈主多了，假的也就成的确了。这条所谓的"名言"曾经欺侮了互联网，去问 AI 搜索，AI 搜索合计是鲁迅说的。

要是子虚信息是专门为之的，那么危害就愈加私密。跟踪新闻网站可靠性的 NewsGuard，发现了一种指导公论的新方式：通过多半子虚信息渗入 AI 模子的检索数据，从而影响这些模子对特定话题的回话。他们看望的沿途事件中，AI 援用乖张信息的概率高达 33%。

这也评释，虽然加了联网搜索之后，可以裁减 AI 的幻觉，但也并不是鼓胀的。

联网搜索可以让 AI 获取及时信息，克服常识完毕时期的局限，关于模子历练数据中凄冷的主题，也能获取更准确的信息，但它也引入了新的问题，要是搜索到的信息本人就是乖张的，AI 可能会放大这些乖张，而况难以充分评估检索内容的可靠性。

AI 虽然能进步后果，但查找而已这件事，反而应该变得更严慎。咱们需要更选藏，某篇著作是谁写的，信息的最早出处是那里。

更值得警惕的，是 AI 编削了赢得心绪价值的方式

AI 仅仅用具，它所导致的问题，根源在于东谈主类我方。生成式 AI 之前，胡编乱造的信息也并不少，AI 起到的作用是，让真假各半的内容分娩得更快、老本更低，致使行文愈加像模像样，质地高于好多营销号内容的下限。

AI 幻觉，反过来看即是 AI 的创造力。或者，咱们可以将 AI 幻觉相识为"有逻辑的合理补白"。它的幻觉内容，频繁合适说话、逻辑、常识的一般结构，基于历练数据漫步，填补了信息空缺处的"最可能内容"。

这不禁让我欲望，历史巧合候比遐想的还无理、还莫得逻辑，弗成以常理筹画，钟会为什么反了，曹丕为什么学驴叫，尔朱荣如何会被元子攸刺杀了 ……AI 的补白，粗略就是某种平行时空的可能性、某种历史的要是。

巧合候，咱们阅读著作和故事，不是为了吸收信息，而是为了赢得心绪价值。AI 就能很好地承担这个变装，弥补真实历史的缺憾，以及咱们内心的"意难平"。就像一位解说所说，"历史的至极就是文学的驱动"。

我曾让 DeepSeek 效法李白的作风，给杜甫的《天末怀李白》回一首诗。

我曾经让 DeepSeek 尝试遐想，要是元稹莫得死在 831 年的武昌任上，而是和白居易在洛阳养老，他们会如何以诗相和。

那些用 AI 作秀明星生温顺容颜热门的内容，施行亦然尽心绪煽动读者的神经。

AI 提供谜底的即时性、吐出各式文学的创造力，总让东谈主眷顾。它是好多东谈主的险恶开始，却亦然便捷快捷的告慰渠谈。这也教导着咱们，警惕一个变本加厉的"后真相时期"。

"后真相"指的是，客不雅事着实塑造公众公论方面的影响力，反而低于诉诸神志和个东谈主信仰的内容。它被《牛津辞书》评为 2016 年年度词汇，于今依然适用，致使变得愈加准确—— AI 内容写得出彩，就存在被传播的可能性，真实与否反而显得不蹙迫了。

当 AI 可以用更快的速率制造不限量的内容小二先生 调教，更放肆，更无痛，更真假难辨，更容易让东谈主高度依赖单一的信息获取方式，比任何的作秀信息更值得咱们警惕。但这并不是 AI 的问题，容易失的确镜子里，照见的如故东谈主类关于心绪价值的渴慕。