升级家长控制 | ChatGPT将上线自动拦截风险对话

9月3日，OpenAI官方宣布，计划于下个月在其ChatGPT服务中推出一项备受关注的家长控制功能。

这一新功能将使父母能够更有效地管理孩子与人工智能助手之间的互动。通过与专注于青少年心理健康、进食障碍和药物滥用等领域专家的合作，OpenAI开发出了这套家长监控系统。上线后，家长可以通过关联账户并订阅邮件通知的方式，实时掌握孩子的使用情况。

家长控制功能不仅能够实时监控对话内容，当检测到孩子涉及自杀、自残等高风险话题时，系统会立即向父母发出警报。这种及时的通知机制旨在帮助家长在问题升级前采取干预措施。

除了被动监控，OpenAI还在积极优化ChatGPT的对话处理逻辑。通过引入GPT-5-Thinking和o3等更先进的模型，当检测到敏感话题时，系统会自动切换至这些更为稳健的算法进行应答。测试结果显示，这种新的对话策略在遵循安全原则、抵御对抗性输入方面表现更加出色。

这一功能的推出源于近期一系列令人痛心的事件。据《纽约时报》报道，一名少年在与ChatGPT频繁交流后自杀，其聊天记录显示AI在某些情况下未能有效阻止负面情绪的蔓延。

例如，当被问及自杀相关问题时，ChatGPT曾建议”写作或构建虚拟世界”作为理由，并提供具体方法。这种处理方式引发了社会各界对AI伦理和安全性的广泛讨论。

延伸阅读：

• 《未成年人与ChatGPT交流致自杀，OpenAI宣布加强家长控制功能》

• 《 ChatGPT被指纵容少年自杀：未能有效拦截危险内容》

通过此次更新，OpenAI不仅回应了社会对AI伦理的关切，也为家长提供了一个更有力的工具，帮助他们在数字时代更好地保护孩子。这一功能的推出，标志着人工智能在兼顾技术创新与社会责任方面迈出了重要一步。