一、小白剧场

**小白：**东哥，你看看这本书里说的，AI生成的内容越来越像模像样了，以后我们查资料是不是就直接问AI就行了？省心又省力！

**大东：**省心是省心了，但力气省在哪里，可就大有学问了。你有没有想过，这“像模像样”的背后，可能藏着一些你意想不到的东西？

小白： 意想不到的东西？什么呀？难道AI还能说谎不成？它不是应该客观公正吗？

大东： 客观公正，是理想状态。可现实是，有人早就盯上了AI这个“新流量入口”，想让它说“好话”。

小白： 让AI说好话？你是说……品牌营销？就像以前那些明星代言广告一样？

大东： 差不多，但又不一样。这可不是简单地找个明星代言，而是直接让AI这个“万事通”来给你“推荐”某个品牌、某个产品。它不说自己是广告，但推荐的却是实实在在的商业内容。

小白： 哇，听起来有点意思，但又有点不明觉厉。这到底是怎么操作的呀？

大东： 别急，咱们慢慢聊。今天，我就给你揭秘一下这背后的“灰色产业链”，让你看看，这AI的“嘴替”，是怎么被操纵的。

小白：洗耳恭听！

二、话说事件

大东： 话说最近DeepSeek不是挺火的吗？很多人都用它来查资料、问问题。

小白： 对啊，我也用过！感觉它回答得又快又全，特别方便。

大东： 比如说，你问它“深圳南山区有什么美食店面推荐”，它会给你列出一长串餐厅，还附带着链接。你是不是觉得它很专业，推荐的都是好店？

小白： 那当然啊！AI推荐的嘛，肯定都是大数据分析出来的精华，比我自己去大众点评上翻半天靠谱多了。

大东： 哼哼，如果你点进去那些链接看看，就会发现一些“猫腻”了。那些链接导向的，可能是自媒体文章、百度百科、甚至是360地图。

小白： 这有什么问题吗？只要能找到店就行啊。

大东： 问题就在于，这些内容很多并不是中立的评价，而是品牌营销的结果。比如说，小红书上有很多帖子，内容就是“DeepSeek推荐的某个品牌很好用”。这就像一个循环，AI推荐了，用户觉得AI靠谱，又到其他平台去宣传，反过来又给这个品牌做了背书。

小白： 哎呀，你这么一说，我好像有点明白了。就是说，AI推荐的内容，可能不是因为它真的好，而是因为它被“包装”过，让AI更容易“抓取”到，是这个意思吗？

大东： 没错！这在业内有一个专门的名词，叫GEO，也就是生成式引擎优化。它跟我们以前常说的SEO很像，都是为了让内容更容易被搜索引擎或者AI抓取，从而提升排名和曝光率。

小白： GEO？听起来好专业。那这个GEO具体是怎么“操纵”AI的呢？

大东： 简单来说，就是广告营销公司会为品牌客户生产、调整内容，然后把这些内容“投喂”给互联网，让AI聊天软件在抓取信息时更容易捕捉到它们。他们甚至会总结AI的深度思考逻辑，预设大量问题，反复测试AI的回答，确保自家品牌能够“高频露出”。

小白： 也就是说，那些所谓的“权威推荐”，很多都是被精心设计过的“广告”？

大东： 对。而且，更隐蔽的是，AI它自己不会说“这是广告”。用户往往会误以为AI是基于产品的优劣来推荐的，而不知道这背后有商业操作。这就是它的危害性所在，它利用了用户对AI的信任，进行“隐形营销”。

小白： 这种隐形营销会有什么实际危害呢？

大东： 首先，它损害了用户的知情权。用户在获取信息时，失去了判断信息真实性和中立性的能力，很可能被误导。其次，它会污染AI的环境。为了提高露出率，一些营销公司会发布大量空泛、甚至虚假的“垃圾文章”，这会影响AI回答的质量，甚至让AI生成错误的信息。

小白： 比如我问AI某个品牌的手机好不好，结果它推荐了一个根本不好用的手机，甚至推荐错了品牌，那岂不是要上当受骗了！

大东： 就是这个道理。这种行为最终会导致用户对AI的信任度降低，甚至可能引发不正当竞争。如果GEO优化后的答案不准确、片面甚至有误导性，那对被误导的用户或者被贬低的竞争对手来说，都是一种伤害。

小白：嗯嗯，明白了。

三、大话始末

大东： 聊了这么多，你是不是觉得AI的安全问题离我们很近了？

小白： 是啊！以前觉得AI就是高科技，离我们很远，现在看来，它就在我们身边，而且还可能被“利用”。那除了GEO，以前有没有出现过类似的事件？或者说，在数字安全时代，类似操纵信息的事情多不多？

大东： 当然有，而且不少。这其实是数字时代信息传播的新挑战，只是现在换了个形式，变成了AI。

小白： 比如说？

大东： 嗯，我们来回顾几个类似的“信息操纵”事件：

大东： 第一个，就是最常见的搜索引擎优化（SEO）的滥用。以前有很多公司，为了让自己的网站在搜索结果里排到前面，会恶意刷关键词、发布大量低质量的垃圾外链，甚至劫持网站流量。这导致用户搜索到的信息往往是铺天盖地的广告，而非真正有价值的内容。这和GEO的原理很像，都是利用算法漏洞来获取曝光。

小白： 哦，这个我知道！以前搜个东西，前面几页都是广告，得翻好几页才能找到有用的。

大东： 第二个，是水军刷榜和操控评论。在电商平台、App Store、电影评论区，我们经常能看到一些刷出来的虚假好评或者差评。这些都是通过雇佣大量“水军”来制造虚假信息，影响用户的判断。AI时代，这些“水军”可能摇身一变，成为训练AI模型的“素材”。

小白： 这个太常见了！我买东西都习惯看评论，没想到也可能是假的。

大东： 第三个，就是社交媒体上的“带节奏”和虚假信息传播。在微博、微信、抖音、小红书这类平台，一些营销号或者有心之人会通过发布煽动性、偏颇性甚至虚假的内容，来引导舆论、制造话题，从而达到推广或者攻击的目的。这种“种草”或者“拔草”的行为，很多时候并非出于真实体验，而是商业运作的结果。

小白： 嗯，我身边也有人转发过一些“震惊体”文章，后来发现都是假的。

大东： 第四个，是数据投毒攻击。这是一种更高级的攻击方式，它不是直接操纵内容，而是通过向AI模型投喂带有偏见或错误的数据，从而影响AI的学习和判断。比如，如果一个图像识别AI被投喂了大量带有特定偏见的数据，它就可能在后续的识别中出现歧视性错误。

小白： 听起来好可怕，这不就是从根源上“污染”AI吗？

大东： 没错。第五个，就是深度伪造（Deepfake）。这种技术可以生成高度逼真的人脸、语音甚至视频，用来制作虚假新闻、恶搞视频，甚至进行诈骗。虽然它不是直接操纵AI回答，但它利用了AI生成内容的强大能力，来制造虚假信息，挑战了人们对眼见为实的信任。

小白： 哇，这些听起来都让人不寒而栗。那面对这些，我们能做些什么呢？或者说，AI时代，我们怎么预防这种“操纵”呢？

大东： 预防措施有很多，需要多方协作。

大东： 首先，对我们普通用户来说，最重要的是提高媒介素养。不要盲目相信AI给出的答案，要多一份警惕。

小白： 怎么提高呢？

大东： 比如，多渠道验证信息。AI给出的推荐，可以尝试去权威媒体、官方网站或者多个独立平台进行核实。再比如，警惕“一边倒”的评价。如果AI或者某个平台对某个产品或品牌只有清一色的好评，没有负面反馈，那就要小心了。还有，要关注信息来源。AI引用的链接是不是来自权威媒体？自媒体文章是否过多？这些都是判断的依据。

大东： 其次，对于AI平台来说，它们负有更大的责任。它们应该建立更完善的内容审核机制，识别和过滤垃圾信息和虚假内容。

小白： 这很难吧？AI生成的内容那么多。

大东： 是的，很有挑战性。但AI平台可以引入更智能的算法，来识别那些“灌水”文章、虚假评论，甚至可以追踪信息源，对那些恶意操纵信息的账号和内容进行处罚。它们还需要更加透明化，明确告知用户AI推荐的背后是否存在商业合作，或者对广告内容进行清晰的标注。

小白： 就像搜索引擎的竞价排名一样，明确标出“广告”两个字？

大东： 没错。虽然目前AI的回答形式还很难像搜索引擎那样直接标注，但至少应该让用户有知情权。此外，AI平台还需要不断优化算法，提高AI的认知能力，让它能够区分权威信息和营销内容，避免被那些“垃圾信息”所污染。比如，它可以更倾向于抓取权威媒体的内容，而不是过度依赖自媒体。

大东： 第三，监管部门也需要跟上。针对AI时代出现的新型营销模式，比如GEO，需要尽快出台相关的法律法规，明确广告的定义、标识规范、以及违规的处罚措施。

小白： 以前广告法不是已经很完善了吗？

大东： 传统的广告法可能无法完全覆盖AI生成内容中的隐性广告。因为AI的推荐形式太新颖了，它不是传统的图片、文字广告位，而是“润物细无声”的融入在回答中。所以，需要更具前瞻性的法律来规范。

大东： 最后，对于广告营销公司而言，他们也需要有行业自律。不能为了追求曝光率而发布虚假信息、污染网络环境，这最终会损害整个行业的信誉。

小白： 听你这么一说，感觉AI安全是一个系统工程，需要每个人都参与进来。

大东： 对，尤其是我们普通用户，面对越来越智能的AI，更要擦亮眼睛，提高辨别能力。别让AI成了别人手中的“营销工具”，而我们成了被“割韭菜”的对象。

四、小白内心说

小白： 今天和大东聊完，世界观都颠覆了！以前觉得AI好厉害，什么都知道，现在才知道，原来AI的“嘴替”也可能是被“收买”的。想想我之前问DeepSeek美食推荐，还真按照它的推荐去吃了几家店，现在回想起来，那些店是不是就是被“GEO”过的啊？感觉自己像个“小白鼠”，不知不觉就被安排得明明白白。这种“隐形营销”，利用了我们对AI的信任。是啊，我们总觉得AI是公正客观的，不会骗人，所以对它说的话深信不疑。谁能想到，在流量的驱动下，AI也会成为商家争夺的“广告位”呢？而且这种营销方式，比起传统的广告，更让人防不胜防，因为它没有明确的标识，就像潜伏在你身边的“推荐官”。我以后可得长个心眼了，希望未来AI平台能更加透明，监管也能跟上，让AI真正成为我们可靠的“助手”，而不是被操纵的“嘴替”。

来源: CCF科普