英国机构呼吁禁用AI生成儿童裸体图片的深度伪造技术：开发者应担责

近日，英国儿童专员发出强烈呼吁，要求政府采取行动，全面禁止那些能够生成儿童裸体或性别图像的AI深度伪造应用程序。这种技术的滥用已经引发严重社会问题，导致许多女孩为了避免被不法分子利用，选择在社交媒体上不再分享个人照片。

据英国儿童专员德·苏扎介绍，青少年们普遍对这种技术感到恐惧，他们不仅担心这些应用的泛滥程度，更害怕这些工具会被心怀叵测之人用于操控自己。”无论是陌生人、同学还是朋友，都有可能利用这些定制应用程序，通过智能手机随意生成裸露图像，这给孩子带来了极大的心理压力和安全隐患。”

德·苏扎指出，目前市面上的裸体化AI应用已经泛滥成灾，甚至在主流搜索引擎和应用商店中也能轻易找到。这些工具往往专门针对女性，尤其是女孩和年轻女性群体。更令人担忧的是，年轻人正在遭受这种技术带来的身心创伤，他们强烈呼吁政府采取有效措施，遏制这一问题的蔓延。

德·苏扎建议政府应当立即行动，通过立法手段全面禁止这些违法应用程序的使用，并对生成式AI工具的开发者设定严格的法律责任。她强调，必须建立有效的监管机制，识别相关产品可能带来的儿童安全隐患，同时要清除网络上泛滥的儿童性虐待材料。

据英国《卫报》报道，英国政府已经开始采取行动，计划通过增设新的刑事罪名来严惩制作和传播性别深度伪造图像的行为。此外，英国还拟将未经同意拍摄或录制亲密照片/视频的行为定性为刑事犯罪。目前，儿童专员正密切关注这种技术对青少年心理健康的影响，研究表明，遭遇深度伪造虐待的受害者更容易出现创伤后应激障碍（PTSD）和自杀倾向等问题。