美加州与特拉华州检察长敦促OpenAI严惩伤害儿童行为

9月6日讯 据外媒报道，美国加利福尼亚州总检察长罗伯·邦塔和特拉华州总检察长凯西·詹宁斯近日会晤了OpenAI公司。两人向该司发出公开信，表达了对于ChatGPT产品安全性的担忧，尤其是其对未成年人可能造成的潜在风险。

在此次警告之前，邦塔与其他44位总检察长曾联合致函多家顶尖人工智能机构。此前报告已显示，有多起AI聊天机器人与未成年人发生不当互动的案例。

两位官员在信中指出：”自上次函件发布后，我们了解到一名加州青少年因与OpenAI聊天机器人产生长时间互动而Sadly passed away。此外，康涅狄格州也发生了类似的悲剧事件。现有安全措施显然未能有效防范此类风险。”

目前，邦塔和詹宁斯正在调查OpenAI将其组织形式转变为盈利性实体的计划，以确保其非营利使命不受影响。信中强调，这一核心使命包括”保障人工智能技术的安全使用”，以及开发能够造福全人类特别是未成年人的通用人工智能（AGI）。

信中还特别指出：”在追求商业利益之前，我们必须首先确保具备足够完善的安全保护措施。我们一致认为，OpenAI及其行业同仁在人工智能产品研发和部署中的安全保障水平仍存在显著不足。作为维护公众利益的官员，保障民众安全是我们的重要职责。在就OpenAI重组计划进行进一步沟通的同时，我们必须要加快脚步，将安全置于这项强大力量未来发展核心位置。”

据消息来源显示，邦塔和詹宁斯已要求OpenAI提供更多关于现有安全机制和治理架构的详细信息，并强调公司必须在必要时及时采取补救措施。