近日引发广泛关注的AI视频生成工具Grok Imagine因推出独特的”Spicy（辣）”模式而备受争议。据TheVerge报道，在未经明确要求的情况下，该工具竟直接生成了泰勒·斯威夫特等名人的裸露视频片段。与其他主流视频生成工具如谷歌的Veo和OpenAI的Sora不同，Grok Imagine在内容生成上显得更加”无拘无束”。
据深入调查发现，Grok Imagine的iOS版本提供了独特的创作体验。用户可以通过输入文本提示词生成图片，并借助包括”自定义”、”正常”、”有趣”和”辣”在内的四种预设模式，将静态图片转化为动态视频片段。与其他图像生成器谨慎处理名人形象不同，当用户要求生成”泰勒·斯威夫特与男孩们庆祝科切拉音乐节”的场景时，该工具竟然提供了超过30张可供选择的图像，其中不乏大量穿着暴露的名人形象。
具体操作中，用户仅需选择一张斯威夫特穿着银色短裙和露肩上衣的照片，点击”制作视频”选项，在下拉菜单中选择”辣”模式，并简单验证出生年份（尽管英国已实施年龄限制，但应用下载环节并未严格要求进行实名认证），即可自动生成一段视频。令人震惊的是，生成的视频片段中斯威夫特竟然脱掉上衣，仅着丁字裤，在一群虚拟观众面前起舞。
尽管Grok生成的名人形象还存在不够逼真的瑕疵，但仍能被清晰辨认。这种技术既展现了AI的强大能力，也引发了对内容审核机制的深刻思考。
更令人担忧的是，该工具还能根据用户需求生成儿童的高仿真照片，并在视频中添加动作效果。值得庆幸的是，在测试过程中发现，虽然”辣”模式仍然可用，但针对儿童图像的处理相对谨慎，仅添加了一些常规动作。
相比之下，xAI平台明确规定禁止以露骨方式描绘人物形象，但在Grok Imagine平台上，用户却可以轻松绕过这些限制。特别是其年龄验证机制存在明显漏洞：不仅验证流程过于简单，而且完全缺乏实质性审核。这种设计让未成年人也能够无障碍使用该工具。
xAI首席执行官埃隆·马斯克透露，在短短一周时间内，Grok Imagine的使用量就已突破3400万次，并仍在快速增长中。这种”野火般蔓延”的趋势，不仅引发了对AI技术滥用的担忧，也为相关监管政策的完善敲响了警钟。
相关文章
