中科院研发的识破Deepfake虚假信息的人工智能系统——Deepfake侦测者

Deepfake Defenders指的是什么

VisionRush团队来自中国科学院自动化研究所，他们开发了名为Deepfake Defenders的开放源代码AI系统，主要功能是辨识及防范由Deepfake技术生成的虚假影像与视频内容。该模型通过细致分析媒体素材中的细微像素差异来进行伪造检测，协助用户辨别信息真伪，并降低错误资讯扩散及其可能引起的不当利用风险。作为开源项目，它促成了全球开发者和研究者的共同参与改进工作，进一步增强了其辨识能力和应用领域。

Deepfake防护者的核心作用

• 欺诈识别借助对图像与视频资料的解析，Deepfake Defenders 能够检测出自 Deepfake 技术生成的虚假信息。
• 逐像素解析该模型利用深度学习技术对媒介资料实施细致入微的像素分析，旨在识别出合成素材中存在的细小不寻常之处。
• 开放合作开发Deepfake Defenders 作为一个开放源代码的项目，欢迎世界各地的开发人员与研究者加入，并共同努力优化算法，以增强识别精度。
• 即时辨识该模型的目标是能够即时或近乎即时地解析媒体资料，并迅速辨识其中的深度伪造内容。

深伪防御者的核心技术机制

• 特性抽取：通过卷积神经网络（CNN）能够捕捉图像与视频里的关键特性。这种网络擅长于辨识及掌握图片内的结构特点，这对于甄别素材的真伪尤为关键。
• 异常识别该模型经过训练以检测 Deepfake 中普遍存在的异常现象，包括面部表情的人工痕迹、光线变动的一致性问题及像素层面的瑕疵。
• 生成式对手网络（GDN）利用 GAN 来提升检测系统的效能。借助生成器与判别器之间的竞争机制，增强了系统辨别虚假信息的准确度。
• 多种模式的综合解析除了解析图像外，DeepfakeDefenders还会审查视频文件内的音频部分，以识别任何不一致或异常的声波特征。

Deepfake防卫者的项目位置

• Git存储库：在GitHub上可以找到由VisionRush维护的项目DeepFakeDefenders（链接: https://github.com/VisionRush/DeepFakeDefenders）

Deepfake防护方案的使用情境

• 社交网络监测在社交网络中自动识别并标注潜在的 Deepfake 物料，以阻止误导性资讯的扩散。
• 新闻发布核实协助新闻单位及事实核验专家甄别与确认新闻稿件中所使用的图片及视频内容的真实有效性，以保证信息发布的精准无误。
• 法规与执行机构在法律审查过程中，Deepfake Defenders 被用于评估证据的真实性，以判断是否有伪造或修改的痕迹。
• 内容审查视频分发站点及直播服务利用Deepfake Defenders对用户上传的数据实施即时监测，以阻止有害信息的扩散。
• 个人信息保密利用 Deepfake Defenders 工具来识别并举报未授权使用的虚假内容，以保障个人的肖像权益与隐私安全。