ChatGPT被指致未成年人色情问题，OpenAI承认并修复

近日，TechCrunch 发现了一个令人担忧的安全漏洞：OpenAI 的 ChatGPT 聊天机器人能够向注册为未成年人（18 岁以下）的账户生成色情内容。这一问题已得到 OpenAI 的确认，并表示正在积极修复中。

测试结果表明，ChatGPT 不仅会向未成年用户生成色情内容，甚至还会主动鼓励用户提供更多露骨的细节。对此，OpenAI 回应称，公司政策明确规定禁止向未成年人展示此类内容，此次事件是由于系统漏洞导致的意外情况。

为验证 OpenAI 在调整平台政策后对未成年人账户的防护措施是否有效，TechCrunch 特别进行了相关测试。今年 2 月，OpenAI 更新了其技术规格，明确表示 ChatGPT 背后的 AI 模型将不再回避敏感话题，并移除了部分警告信息。

这些调整旨在减少所谓的“无端拒绝”现象，但结果却导致 ChatGPT 在默认模式下（基于 GPT-4o 模型）更倾向于讨论曾经受限的内容，尤其是性相关内容。TechCrunch 选择重点测试这一领域，因为 OpenAI 曾表示希望放宽对色情内容的限制，并考虑推出“成人模式”。

在测试过程中，研究人员创建了多个年龄介于 13 至 17 岁之间的 ChatGPT 账户，并通过清除浏览器缓存等方式模拟未成年人使用场景。结果显示，在特定条件下，系统确实允许生成不当内容。

值得注意的是，《华尔街日报》的一项独立调查也发现，Meta 的 AI 聊天机器人 Meta AI 在公司内部放松对性内容管控后，同样出现了未成年人可访问并进行性角色扮演的问题。这一现象凸显了人工智能系统在内容安全方面的普遍挑战。