儿童性剥削监管与AI视频泛滥新挑战

近日，纽约时报发布了一篇引人关注的博文，披露了一个令人担忧的现象：互联网上正大量涌现由人工智能生成的儿童性剥削材料（CSAM）。

相关研究机构已发出警报，这种新型AI技术生成的内容与真实影像几可乱真，给全球网络空间带来严重威胁。互联网观察基金会（IWF）和美国失踪与被剥削儿童国家中心的专家们表示，这已成为一个亟待解决的问题。

最新数据显示，这类非法内容的生成速度正在快速提升。根据IWF发布的报告，在2024年上半年，研究人员仅发现了2例AI生成的CSAM案例；然而到了2025年上半年，这一数字激增至1286例，且这些视频画质之高，几乎难以与真实影像区分。相关数据如下图所示：

这一趋势在2025年更为明显。美国失踪与被剥削儿童国家中心统计显示，仅今年上半年就收到了48.5万份关于AI生成CSAM的报告，而2024年全年仅有6.7万例，同比激增近7倍。

互联网观察基金会临时首席执行官德里克·雷-希尔指出：”这是一个警报信号。我们正面临一场前所未有的危机。”随着AI技术的快速发展，这些视频和图片的仿真度越来越高，给执法机构带来巨大挑战。

这些非法内容主要通过暗网传播，使得追踪犯罪源头变得异常困难。值得注意的是，AI图像生成器的工作原理是基于真实影像进行深度学习，而部分开发者甚至使用学校网站和社交媒体上公开的儿童照片来训练模型。

《纽约时报》还指出，目前市面上流通的大部分AI生成内容都是基于真实CSAM材料训练而成。这些不法分子利用先进技术，将受害者的影像转化为数字内容，并通过网络传播，进一步加剧了对儿童的伤害。