谷歌聘AI质量工程师专注AI摘要幻觉问题

1月7日，科技媒体Bleeping Computer报道称，谷歌搜索中的”AI摘要”功能仍存在显著缺陷，表现为编造不实信息以及在不同提问方式下提供相互矛盾的答案。

不过，这种问题未来有望得到改善。最新招聘信息显示，谷歌正在招募专门的工程师团队来验证AI生成的答案，并通过优化回答质量来提升整体搜索体验。

在招聘启事中，谷歌表示：”我们正在重新定义’搜索信息’的概念。为此，我们需要攻克复杂的工程技术难题，在扩展基础设施的同时，持续为全球用户提供更优质的服务体验“。

新增的职位名称为”AI回答质量工程师”，该岗位将加入谷歌搜索团队，主要职责是提升AI回答的整体质量，重点关注”AI摘要”功能的优化。

值得注意的是，这是谷歌首次公开承认其”AI摘要”技术仍存在改进空间。而此次招聘信息的发布时间也引发了广泛关注。

目前，谷歌正在不断扩大”AI模式”和”AI摘要”在搜索结果中的应用范围，并将其引入到Discover信息流中作为新闻内容的摘要，甚至尝试用AI重新撰写新闻标题。

《卫报》此前报道指出，在健康领域的相关问题上，谷歌的”AI摘要”经常会出现误导性或完全错误的答案。虽然谷歌在过去几个月一直在努力提升答案质量，但由于用户往往基于对谷歌的信任而直接采纳其展示内容，因此这种错误率仍存在较大的优化空间。