Anthropic CEO:AI模型的“幻觉”频率或低于人类

AI资讯4周前发布 ainav
19 0

5月23日,外媒TechCrunch报道称,在Anthropic于旧金山举办的首场开发者活动”Code with Claude”上,CEO达里奥·阿莫代伊表示,当前AI模型的“幻觉”发生率可能比人类更低。

这里所说的“幻觉”,是指AI虚构内容却以事实形式呈现的现象。这种现象在AI生成文本时偶尔会出现,但其频率和影响范围仍在研究之中。

Anthropic CEO:AI模型的“幻觉”频率或低于人类

阿莫代伊在会上强调,AI出现幻觉并不妨碍Anthropic向通用人工智能(AGI)目标迈进。他认为,“这取决于我们用什么样的标准来衡量,但我怀疑AI模型的幻觉频率可能低于人类,只是它们犯错的方式往往更出人意料。”

作为行业内对AGI持最积极态度的声音之一,阿莫代伊表示:“人们总是试图找出AI能力的上限,但目前我们甚至看不到这种限制的存在。”他的观点代表了Anthropic在开发 Claude系列模型时的基本立场。

不过,并非所有人都认同这一看法。就在本周,谷歌DeepMind CEO哈萨比斯指出,当前的AI模型还存在诸多漏洞,连一些基础问题都回答错误。这与阿莫代伊的观点形成了鲜明对比。

值得注意的是,在处理复杂推理任务时,部分新模型的幻觉现象反而更加明显。比如OpenAI的o3和o4-mini版本相较于之前的推理模型,幻觉率显著增加,就连OpenAI团队也未能完全解释这一现象的原因。

阿莫代伊还指出,人类本身也会频繁出错。因此他认为,AI出现错误并不意味着它“不够聪明”。但同时他也承认,当AI以极高的信心输出错误信息时,确实会引发一系列应用层面的问题。

综上所述,虽然关于AI幻觉频率的讨论仍在持续,但它并未影响到Anthropic向AGI目标迈进的步伐。未来随着技术的发展,相信这些问题将得到更深入的研究和解决。

© 版权声明

相关文章