微软人工智能公益项目（Microsoft AI for Good）近期发布的一项研究表明，在识别AI生成图像方面，人类的表现仅略高于随机猜测。该研究共吸引全球超过1.25万名参与者，进行了28.7万次图像评估，最终结果显示，参与者的整体辨别准确率仅为62%。
实验发现，在各类图像中，参与者最容易识别出虚假的人像图像，但在面对自然景观和城市街景等非人物图像时，辨别成功率显著下降至59%-61%。这一数据表明，人类在区分AI生成图像方面仍面临较大挑战，尤其是当图像缺乏明显人工痕迹或风格特征时。
为确保测试贴近现实场景，研究团队采用了”真实或虚假”问答游戏的形式，并刻意避免使用极具迷惑性的极端案例。参与者需要判断所见图像是否由AI生成。这种方法使得实验结果更能反映普通人日常使用网络时可能遇到的真实情况。
基于研究成果，微软呼吁加强技术透明度，推广使用图像水印和可靠的AI内容检测工具，以降低AI生成内容被用于传播虚假信息的风险。此前，微软已发起多项公众教育活动，旨在提升社会对AI伪造信息威胁的认知。
值得注意的是，研究团队还测试了微软自研的AI检测工具，在各类图像上的识别准确率均超过95%，远超人类表现。但研究人员强调，即使是先进的机器检测手段也并非无懈可击。
实验发现，即使图像带有可见水印，恶意使用者仍可通过简单的裁剪或图像处理工具轻易去除或掩盖水印，从而绕过视觉警示机制。这表明仅依赖水印的防护策略显得尤为不足。
研究人员认为，人类在识别人脸类AI图像时更具优势，这可能源于人类天生对面部特征的高度敏感性。人们更容易察觉AI生成人像中的细微异常，如不对称的眼睛、不自然的皮肤纹理或光线错误。然而，研究还发现，早期的生成对抗网络（GANs）和图像修复技术反而更具欺骗性。
这些技术生成的图像往往呈现”业余摄影”风格，而非主流模型常见的精致、高饱和度的”影棚风”，因而更易被误认为真实拍摄。其中，图像修复技术尤其值得警惕——它允许将真实照片中的局部区域替换为AI生成内容。
微软警告称，这种”局部伪造”手段极具隐蔽性，极难被普通用户识别，可能被用于制造误导性新闻或政治宣传。这再次敲响警钟：面对日益逼真的AI生成内容，人类的直觉判断已不足以应对。科技企业必须加快开发更强大的检测技术和内容溯源机制，构建多层次的防御体系，以遏制AI伪造内容在社会层面的恶意传播。
相关文章
