近日，人工智能视频生成领域迎来了一场风暴。OpenAI旗下的Sora 2平台因其突破性技术引发广泛关注的同时，也招致了强烈争议。该平台允许用户仅凭一段文本提示词即可生成任意风格的AI视频，这一功能尽管展现了强大的创造力，但也带来了严重的社会问题。非自愿图像泛滥、高度逼真的深度伪造内容激增已成为难以忽视的事实。
尽管OpenAI已采取了一些限制措施，例如禁止生成涉及迈克尔·杰克逊、马丁·路德·金博士及弗雷德·罗杰斯先生等公众人物的不当内容，但这些规则往往是在相关名人及其家属强烈抗议后才被迫出台。这种被动应对的方式暴露出平台在内容审核机制上的不足。
非营利组织”公共公民”(Public Citizen)于本周二致函OpenAI及其首席执行官山姆·奥尔特曼(Sam Altman)，要求立即暂停Sora 2的公众使用。信中指出，该平台仓促上线以抢在竞争对手之前发布，这反映了”OpenAI一贯且危险的行为模式：急于将一款不安全或防护措施不足的产品推向市场”。信件强调，Sora 2对产品安全性的漠视不仅侵犯了公众的肖像权，更对民主制度构成了潜在威胁。该组织已将此函提交至美国国会。
“我们最担忧的是其对民主制度的潜在威胁。””公共公民”科技政策倡导者J.B.布兰奇在采访中表示，”我认为我们正步入一个人们无法再真正信任所见影像的世界。政治领域已开始出现一种策略：最先发布的图像或视频，往往就是公众最终记住的内容。”
作为信函的执笔人，布兰奇还指出，此类技术正在系统性地侵蚀个人隐私权，并对网络上的弱势群体造成不成比例的影响。
尽管OpenAI已禁止生成裸露内容，但布兰奇指出，”女性正以其他形式遭受线上骚扰”。例如，某些带有特定恋物癖倾向的小众内容仍能绕过现有审核机制传播。新闻媒体404 Media上周报道称，大量由Sora生成的”女性遭扼颈”视频正在网络上激增。
值得注意的是，一个多月前，OpenAI在iPhone上推出了其新的Sora应用，并迅速将其扩展至美国、加拿大以及日本和韩国等亚洲国家的安卓手机市场。
目前，最强烈的抵制声浪主要来自好莱坞及其他娱乐产业相关方，包括日本漫画(Manga)行业。在面对这些抗议后，OpenAI在Sora上线数日后即宣布首批重大调整，承认”过度审核确实令用户极为沮丧”，但强调在”全球社会仍在适应这项新技术之际”，采取审慎保守立场至关重要。
随后，OpenAI于10月16日公开宣布与马丁·路德·金博士家族达成协议，禁止生成对其民权领袖形象的不敬描绘；10月20日，又与《绝命毒师》主演布莱恩·克兰斯顿(Bryan Cranston)、美国演员工会-美国电视与广播艺术家联合会(SAG-AFTRA)及多家经纪公司达成类似协议。
“如果你名气大，那还好说。”布兰奇评论道，”但这恰恰凸显了OpenAI一贯的行事模式：他们只愿回应极少数群体的愤怒抗议；惯于先发布、后道歉。然而，许多问题本可在产品发布前通过设计层面的审慎决策加以规避。”
这并非OpenAI首次因技术不当使用引发争议。上周，七起新诉讼在加利福尼亚州法院提起，指控其聊天机器人ChatGPT在用户并无精神健康问题的情况下，诱导其产生自杀倾向与有害妄想。这些诉讼由”社交媒体受害者法律中心”(Social Media Victims Law Center)与”科技正义法律项目”(Tech Justice Law Project)代表六名成年人和一名青少年提起，指控OpenAI明知故犯，在去年仓促发布GPT-4模型，无视内部警告——该模型存在危险的谄媚倾向与心理操纵性。四名受害者因此自杀身亡。
尽管”公共公民”并未参与上述诉讼，布兰奇表示，他认为Sora的仓促发布与此存在相似之处。
他指出：”不顾一切地猛踩油门，毫不在意可能造成的危害。其中很多后果其实是可以预见的。但他们宁愿推出产品，让人们下载，让人们对其上瘾，也不愿做正确的事——事先对这些产品进行压力测试，并关注普通用户的困境。”
上周，OpenAI还回应了来自日本动漫与游戏产业的抗议。该国代表性行业协会致函OpenAI，成员包括宫崎骏创立的吉卜力工作室(Studio Ghibli)，以及万代南梦宫(Bandai Namco)、史克威尔艾尼克斯(Square Enix)等知名游戏开发商。OpenAI在声明中表示：”许多动漫爱好者渴望与心仪角色互动”，但公司亦已设置防护机制，防止在未获版权方授权的情况下生成知名角色形象。
“我们正与各大工作室及版权方直接沟通，认真听取反馈，并持续观察用户（包括高度重视文化与创意产业的日本市场）如何使用Sora 2。”OpenAI在针对该行业协会信函的声明中如是表示。
相关文章
