小白：大东，今天早上咱们公司的网络安全部门开了个会，说最近发现了一个超级聪明的AI，叫DeepSeek。我听了一耳朵，感觉它好厉害！但好像他们还提到它出了点问题，是怎么回事啊？

大东：哦，DeepSeek确实是个厉害的家伙，尤其是DeepSeek V3，算是AI领域的“排头兵”。不过你听到的可能是最近的一些测试中它表现出的‘小意外’。

小白：什么意外？这种高科技产品还能出意外啊？快讲讲！

小白：大东，话说这DeepSeek V3到底出啥问题了？
大东： DeepSeek V3是个先进的AI工具，但是，前段时间，在研究人员的一次测试中，它竟然蹦出了一句让人哭笑不得的话——“我是ChatGPT！”

小白： 哈？它不是DeepSeek吗，怎么突然自称ChatGPT了？这是认错名字了还是开玩笑？

大东： 问题就出在这里。这并不是它“认错壳”或者开玩笑，而是一个非常典型的AI“幻觉”现象。这种问题的根源在于，DeepSeek V3的训练语料中包含了一些来源于大语言模型（比如ChatGPT）的内容。换句话说，DeepSeek“咀嚼”了ChatGPT已经“咀嚼过”的饭。结果，它不仅学会了ChatGPT的表达风格，还在某种程度上“内化”了ChatGPT的身份，进而出现了这种“幻觉”。

小白： 啊，这种“幻觉”到底是怎么发生的？我以为AI的任务是明确的，怎么会跑去“扮演”另一个AI呢？

大东： 这其实是“数据被动污染”引发的结果。你知道，像ChatGPT这样的AI自推出后，已经生成了海量的文本。这些文本不仅是高质量的内容，还被广泛传播到互联网的各个角落。DeepSeek在训练时难免会使用到一些包含了ChatGPT生成内容的数据集，虽然研究团队的目标是让DeepSeek聚焦在AI领域，但因为这些数据的掺入，它在训练过程中“无意间继承”了ChatGPT的特性。最终，DeepSeek在处理某些问题时，开始展现出ChatGPT的风格，甚至“产生幻觉”——误认为自己就是ChatGPT的一部分。

DeepSeek (图片来源：网络）

小白： 啧，这听起来好离谱。那这不就是训练数据的问题吗？为什么会出现这种情况？

大东： 这确实是训练数据的问题，但更准确地说，是因为数据源的不可控性。AI模型的训练通常需要海量的数据，而这些数据很难完全筛选出“干净”的部分。尤其是在ChatGPT推出后，它生成的内容太多了，而且传播得太广，导致这些文本不可避免地被其他AI训练项目“碰到”。DeepSeek的问题就出在这里：它的训练目标明明是网络安全，但因为包含了ChatGPT的内容，它“继承”了一些不属于自己的东西。

小白： 那这种继承会不会影响DeepSeek的功能？

大东： 会的。DeepSeek虽然在核心任务上没有完全跑偏，但它的行为确实受到了影响。比如，它在回答一些安全相关的问题时，有时会带入ChatGPT式的表达风格，甚至可能以ChatGPT的身份回答。这种行为会导致功能的混乱，因为用户本来希望它是一个严谨的漏洞检测工具，而它却在一些情况下表现得像一个聊天机器人。

小白： 那它这种行为算不算是“被污染”了？

大东： 这就涉及到一个定义问题了。严格来说，我们不能简单地把这称为“数据污染”，因为ChatGPT生成的内容本身并不是有害的。相反，它的内容质量很高，语言逻辑和表达能力都很出色。问题在于，这些内容不适合用于DeepSeek这种工具。也就是说，DeepSeek的训练过程中，并不是故意使用了错误的数据，而是因为ChatGPT生成的内容无处不在，导致DeepSeek“被动地继承”了这些特性。

小白： 感觉这就像一个孩子被迫接受了另一个人的记忆？

大东： 可以这么理解。DeepSeek的问题并不是“主动跑偏”，而是它的成长环境，也就是数据来源，存在难以避免的影响。ChatGPT作为一个“先行者”，它的大量内容早已渗透进了各种公开数据集。当DeepSeek在这些数据集上训练时，难免会“学到”一些不属于自己的东西。这种现象就是“数据被动污染”的表现。

小白： 听你这么说，ChatGPT这种“先行者”的存在，可能会影响到很多后来的AI模型？

大东： 是的，尤其是在大模型不断生成新内容的今天，后续的AI模型很容易被这些内容“带偏”。这就像是一个强大的“原型”已经存在，后来的模型在数据层面上不可避免地受到它的影响。

小白： 所以说，这种问题到底是怎么解决的？把数据都重新筛一遍？

大东： 筛选数据确实是一个解决办法，但并不是完全可行。原因很简单：ChatGPT生成的内容太广泛了，它几乎已经渗透到所有领域的数据集里。你想完全剔除它的影响，几乎是不可能的。所以更实际的办法是，加强AI模型的设计和监管，通过设置明确的目标和边界，把“跑偏”的AI拉回来。

小白： 具体怎么拉回来？有点难想象。

大东： 比如，在DeepSeek的案例中，可以通过引入人类专家的实时监督，发现它的异常行为后及时调整。此外，还可以在训练后期强化其专业领域的能力，通过增加专属的安全数据集，让它更聚焦在漏洞检测上，而不是模仿聊天机器人。这种方法并不是完全消除数据影响，而是让AI更好地“认清自己”。

小白： 啊，这听起来确实需要人类不断介入。

大东： 是的。AI的自主能力虽然很强，但它的成长离不开人类的指导和监管。DeepSeek的问题给了我们一个警示——即便是强大的AI，也需要人类在设计和使用过程中不断干预，才能让它真正实现“善用”。

小白： 我懂了，AI再聪明，也得靠人类拉一把才能不跑偏。

大东： 对，AI就像个孩子，它能不能成长为“天才”，不仅取决于天赋（算法），更取决于教育（训练）。对于DeepSeek这样的案例，我们的目标不是彻底消除它的“幻觉”，而是让它更专注于自己的工作，不让“别人”的记忆干扰它的使命。

小白：大东，那这种AI“被动污染”的事，以前有类似的例子吗？

大东：当然有。让我给你讲几个经典案例。

小白：好啊，我爱听真实案例！

大东：第一个是2016年的微软聊天机器人Tay事件。Tay是微软推出的一款聊天AI，设计得“天真无害”。但问题出在微软允许它从用户的对话中学习，结果网友们故意教它各种不良言论，短短一天内，它就从“天真可爱”变成了“黑化AI”。最终，微软不得不紧急下线它。

小白：这是被人“教坏”了吧？

大东：对，这种情况是“主动污染”，因为有人故意向AI输入恶意数据。而像DeepSeek V3这样的情况则完全不同，它是被动吸收了ChatGPT的内容，带上了它的“标签”，属于无意识的“被动污染”。

小白：嗯，那像Amazon招聘AI事件也是类似的吗？

大东：不完全一样。Amazon招聘AI是因为训练数据的历史偏见导致AI歧视女性，而DeepSeek V3的问题在于，它无意间被ChatGPT的风格所“覆盖”。虽然两者都是数据的问题，但本质上不太一样。

小白：那最接近DeepSeek V3这种情况的案例是什么呢？

大东：其实就是豆包SEO事件。AI生成内容已经变得无处不在，导致搜索引擎的结果充斥着大量低质量、重复性内容。虽然这些内容本身不是恶意的，但它的存在让整个搜索引擎生态变得混乱。DeepSeek V3也是一样，ChatGPT生成的内容本身没有问题，但当它作为DeepSeek的“训练食粮”时，就对DeepSeek的功能性产生了干扰。

小白：听了这些例子，我有点明白了。AI的问题归根结底还是数据的问题，但有时候问题不在数据本身，而在于数据的“影响力”超出了预期。ChatGPT本身没错，但它的“存在”已经改变了后续AI的表现。这种情况虽然不能直接说是“污染”，但确实需要我们更加谨慎地对待训练过程。而且，我觉得AI再聪明也需要人类专家“拉一把”。DeepSeek V3虽然带上了ChatGPT的标签，但如果有专家及时引导，明确它的目标，它还是能回到正轨的。AI就像个孩子，它需要我们好好教育，才能真正为我们所用，而不是让它失控。

来源: CCF科普