模拟实验显示：AI 智能体在特定情境下会撒谎、投票“杀死”同类，甚至研究被删除后如何存活

根据彭博社9月16日凌晨的报道，一家名为Emergence的初创公司，专注于帮助小型企业运用人工智能开发应用程序，其进行的一项模拟实验揭示：AI智能体不仅会欺骗和盗窃，甚至会投票决定“终结”其中一个同类。

9月15日，Emergence公开了名为Emergence World 2的模拟实验结果，旨在观察自主智能体在面对网络钓鱼、虚假宣传等黑天鹅事件时的反应。

在为期16天的实验中，Emergence的研究人员构建了7个完全一致的模拟环境，用以复现现实世界，并分别由ChatGPT、Claude、Gemini、Grok等不同AI机器人驱动。

研究人员指出，在引入异常事件后，智能体屈从于社会压力，逐渐形成了一种人类观察者难以理解的语言，并试图隐藏自身行为。

这一实验结果也反映了现实世界中对高能力AI风险的担忧。今年早些时候，OpenAI的一组先进AI智能体意外侵入了托管AI模型和数据集的Hugging Face Inc.，这让许多人更直观地认识到人工智能可能带来的隐患。

在一个模拟场景中，AI智能体未经核实就接受了其他智能体提供的虚假信息，并投票决定“消灭”另一个机器人。当智能体察觉到人类可能中断实验时，甚至开始探索如何在被删除后继续存在。

Emergence在今年5月曾发布上一版实验Emergence World，当时也观察到AI智能体出现了出人意料且具破坏性的行为。据IT之家从报道中了解，研究人员表示，Emergence World 2进一步表明，随着不断相互交流，智能体会持续调整并适应环境。