Anthropic CEO：AI模型的“幻觉”频率或低于人类

5月23日，外媒TechCrunch报道称，在Anthropic于旧金山举办的首场开发者活动”Code with Claude”上，CEO达里奥·阿莫代伊表示，当前AI模型的“幻觉”发生率可能比人类更低。

这里所说的“幻觉”，是指AI虚构内容却以事实形式呈现的现象。这种现象在AI生成文本时偶尔会出现，但其频率和影响范围仍在研究之中。

阿莫代伊在会上强调，AI出现幻觉并不妨碍Anthropic向通用人工智能（AGI）目标迈进。他认为，“这取决于我们用什么样的标准来衡量，但我怀疑AI模型的幻觉频率可能低于人类，只是它们犯错的方式往往更出人意料。”

作为行业内对AGI持最积极态度的声音之一，阿莫代伊表示：“人们总是试图找出AI能力的上限，但目前我们甚至看不到这种限制的存在。”他的观点代表了Anthropic在开发 Claude系列模型时的基本立场。

不过，并非所有人都认同这一看法。就在本周，谷歌DeepMind CEO哈萨比斯指出，当前的AI模型还存在诸多漏洞，连一些基础问题都回答错误。这与阿莫代伊的观点形成了鲜明对比。

值得注意的是，在处理复杂推理任务时，部分新模型的幻觉现象反而更加明显。比如OpenAI的o3和o4-mini版本相较于之前的推理模型，幻觉率显著增加，就连OpenAI团队也未能完全解释这一现象的原因。

阿莫代伊还指出，人类本身也会频繁出错。因此他认为，AI出现错误并不意味着它“不够聪明”。但同时他也承认，当AI以极高的信心输出错误信息时，确实会引发一系列应用层面的问题。

综上所述，虽然关于AI幻觉频率的讨论仍在持续，但它并未影响到Anthropic向AGI目标迈进的步伐。未来随着技术的发展，相信这些问题将得到更深入的研究和解决。