谷歌推出AI深度伪造检测工具SynthID

2025年5月22日，在谷歌举办的I/O开发者大会上，该公司推出了一款名为SynthID Detector的新工具，旨在帮助识别和防范深度伪造（deepfake）及虚假信息的传播。这款创新工具通过检测数字水印来识別AI生成的内容。

据官方博客文章介绍，自2019年至2024年间，深度伪造视频的数量激增了550%，同时社交媒体上也充斥着越来越多的AI生成内容。这种现象凸显出亟需有效的检测工具来应对日益猖獗的信息造假问题。

目前，SynthID Detector正在向早期测试者推广。包括记者、研究人员和开发者在内的受邀用户可以加入等待名单。该工具通过扫描文件中的隐形数字水印来识别AI生成的媒体内容。

值得注意的是，这项技术能够精准定位水印所在的具体位置。例如，在音频中可以明确标示出水印出现的时间段；在照片中则会高亮显示可能嵌入水印的区域。即使经过多次分享或格式转换，该工具仍能有效检测到水印的存在。

谷歌计划将SynthID Detector集成到其一系列生成式AI产品中，包括视频生成工具Veo 3、图像生成工具Imagen 4以及音乐生成工具Lyria 2。此外，谷歌还与英伟达公司达成合作，将水印技术应用于NVIDIA Cosmos模型，并与GetReal Security等安全服务商开展合作，共同验证和优化水印检测功能。

尽管SynthID在AI内容识别方面具有显著优势，但其并非绝对可靠。特别是在处理文本信息或面对极端图像修改的情况下，仍有可能被绕过，这需要用户保持必要的警惕性。

2025 谷歌 I/O 开发者大会专题