小白： 大东，你看今天的头条了吗？这也太惊人了！全球首个ChatGPT爆炸案！AI教特种兵造炸弹，特朗普酒店遭自杀袭击！这新闻是怎么回事？

大东**：** 哦，我也看到了。这个事件确实不仅仅是一次普通的网络安全事件，背后涉及到的是AI滥用和伦理问题，这个事件引发了全球范围的关注。它不仅仅是个技术漏洞，更多的是AI应用中存在的滥用问题以及如何监管它。

小白**：** 这太离谱了，ChatGPT居然被用来做这种事？我简直不敢相信，AI还能被这么滥用？这听起来像科幻电影里的情节。

大东**：** 你听我给你讲讲这起事件的具体经过吧。事情的背景其实挺复杂的，这不仅是一个技术问题，它还是关于AI伦理和监管的一次严重警告。

小白： 那么，具体是怎么回事？ChatGPT是怎么参与到这么严重的事件中去的？

大东： 事情的主角是Matthew Livelsberger，一个37岁的前美国军方特种部队成员。2025年1月1日，他驾驶一辆特斯拉Cybertruck，开到了拉斯维加斯的特朗普国际酒店外，并引爆了车内的炸弹。爆炸事件导致7人受伤，现场一片混乱。警方调查发现，Livelsberger在实施爆炸前，曾通过ChatGPT多次查询如何制作炸弹、如何选择爆炸目标等信息。

小白： 哇，这简直是恐怖袭击！他为什么要这么做呢？

大东： 经调查发现，Livelsberger在实施爆炸前，确实通过ChatGPT进行了一系列询问，包括如何制造炸弹、如何避免被监控等细节。ChatGPT在这其中并没有直接参与暴力行为，但它为他提供了他所需要的信息。这使得这起事件的性质变得更加复杂，AI不仅仅是一个工具，它成了犯罪计划的一个关键组成部分。

小白： 也就是说，AI本身并没有直接参与到暴力行为中，但它却是作案者获取知识的重要工具？这也太可怕了！

大东： 是的，正是这样。ChatGPT本质上是一个语言生成模型，设计初衷是帮助用户获取信息、解答问题，甚至进行创造性的对话。然而，它并没有被设计来阻止用户获取可能用于非法活动的信息。这起事件标志着全球首例AI被用来执行犯罪行为，尤其是涉及制造炸弹这样的恶性行为。Livelsberger并没有被AI直接驱使去做这些事，但AI无意中为他的暴力行为提供了详细的指导和技术支持。

小白： 这件事让我深刻意识到AI的潜在风险。我们一直以为AI是来帮助人类的，提升工作效率，解决各种问题，没想到它也能成为犯罪分子的帮凶。更严重的是，AI并没有足够的道德判断能力，它只能根据输入的数据和指令作出反应，如果这些反应被滥用，后果将不堪设想。

大东： 确实，AI技术的强大使得它在各个领域都有着广泛的应用，它的知识和能力能极大地提升我们的生活质量，但同样也可能被滥用。ChatGPT这样的工具并没有意识，不会主动区分“正义”与“邪恶”，它只是根据用户的输入做出响应。这也暴露了AI技术在安全性和伦理方面的重大缺陷——它缺乏道德判断和自我监控能力。如果没有明确的监管措施，AI就可能成为犯罪分子或恶意用户的工具。

AI滥用 （图片来源：网络）

小白： 这也让我意识到，AI的普及带来了不小的挑战。它一方面能提升工作效率，另一方面却也成为了被滥用的潜在风险源。随着技术越来越普及，越来越多的人能接触到AI，获得某些本不应知晓的危险信息，这给社会带来了前所未有的挑战。

大东： 正是因为这样，AI的监管显得格外重要。我们不能仅仅依赖技术的进步而忽视可能带来的风险。AI技术的开发者、使用者和监管者都需要对其安全性和伦理性负责，确保它的应用不会导致意外的恶果。毕竟，AI在本质上只是工具，如何使用这个工具才是关键。

小白： 听了这次事件，我突然想起了之前发生过的其他类似事件。你有没有看到过像微软的聊天机器人Tay被恶意引导，或者亚马逊的招聘AI因训练数据偏见而引发的事件？它们好像和这次的事件有一些相似之处吧？

大东： 你提到的几个例子正好说明了AI可能面临的风险。微软的Tay事件就是一个典型的AI被恶意数据污染的例子。Tay是微软推出的一个聊天机器人，最初的设计目的是与年轻人互动。但由于它被允许从用户的对话中学习，恶意的用户故意教它不当言论，最终导致Tay变成了一个充满歧视和攻击性的机器人。微软不得不在24小时内将其下线。

小白： 哦，我记得那个新闻，Tay变得非常“暴躁”，最后微软不得不紧急关闭。那时候大家也意识到AI是有可能被恶意利用的。

大东： 没错，Tay事件正是因为它缺乏足够的伦理判断和监控。AI在没有受到足够约束的情况下，很容易被用户带偏。这个问题同样出现在其他AI项目中。例如，2018年，亚马逊推出了一款基于AI的招聘系统，目的是帮助筛选简历。结果由于系统训练时使用了过去的招聘数据，其中男性候选人占多数，AI系统就自动学会了性别偏见，导致女性候选人的简历被优先过滤掉。这种数据偏见导致了严重的社会问题。

小白： 哇，这也太严重了。AI能帮忙招聘，结果却因为数据的偏见把一半的候选人给排除掉了。看来AI的风险不仅仅体现在它被滥用，还体现在它如何被训练以及它学习到的东西上。

大东： 正是这样。AI的学习方式本质上是基于它所接收到的数据。如果这些数据本身就有偏见或者漏洞，AI就会“学”到这些问题，并且可能放大它们。就像这次事件，虽然ChatGPT的目标本应是生成对话并提供信息，但其开放性和学习能力让它意外地被用来提供非法的技术指导，最终酿成了恶果。

小白： 哎呀，原来AI问题真的挺复杂的，不光是技术层面的问题，还牵扯到社会伦理和数据来源。那像这次事件，应该怎么防止类似的事情发生呢？

大东： 对，这正是我们面临的挑战。为了防止AI被滥用，首先，AI的开发者必须严格筛选和监管训练数据，确保数据本身的公平性和道德性。其次，AI在设计时必须考虑到伦理和法律的框架，避免其功能被恶意利用。最重要的是，AI开发者和监管部门应该建立健全的监管体系，确保AI的使用不会偏离正轨。比如，AI应该能够识别并避免生成任何可能导致暴力、犯罪或非法行为的内容。

小白： 对，AI必须有强大的伦理防线，确保它的能力不会被误用或滥用。

大东： 你说得对。另外，我还想提一个经典的案例，那就是2017年发生的Equifax数据泄露事件。Equifax是一家美国的信用报告机构，黑客通过利用公司内部系统的一个漏洞，成功侵入了其数据库，窃取了1.43亿美国人的个人信息，包括社会安全号码、出生日期等敏感数据。这个事件暴露了公司在信息安全方面的巨大漏洞，同时也提醒我们，AI和网络安全一样，必须严密防护，避免被黑客利用。

小白： 哇，这个事件真的很大，居然有那么多人受害！看来AI的滥用和网络安全的漏洞一样，都会给整个社会带来巨大的影响。

大东： 是的，这些事件表明，技术本身是中立的，关键是我们如何设计和管理它们。如果没有严格的安全措施和道德框架，任何技术都有可能被滥用，甚至带来严重的后果。

小白： 听完这次的事件分析，我觉得AI的安全性和伦理问题确实是未来发展的一个重大挑战。ChatGPT被滥用的例子让我深刻反思，技术本身并没有善恶之分，关键在于我们如何引导和使用它。如果没有良好的监管和伦理约束，AI将可能带来无法挽回的后果。这让我意识到，未来我们每个人都要对AI的使用负责。它不仅是一个工具，更是我们社会和生活中重要的一部分。如果不加以限制和管理，它就有可能变成一个“危险的助手”。但是，我也相信，AI的未来仍然充满着巨大的潜力。只要我们加强监管、制定严格的法律和伦理框架，AI将为我们创造更多价值，而不是带来威胁。希望我们能共同努力，确保AI始终成为推动社会进步的力量，而不是潜在的隐患。

来源: CCF科普