9月11日，据外媒报道，美国加州州议会于当地时间周三通过了一项重要法案——SB 243。这一法案标志着该州在AI监管领域迈出了关键性的一步。
此法案的核心目标是规范AI陪伴聊天机器人的使用，重点保护未成年人和弱势群体的权益。经过加州议会两院的协商与支持，目前法案已递交至州参议院，并计划于本周五进行最终投票表决。
如果该法案获得州长加文·纽森签署同意，相关法规将自2026年1月1日起正式生效。这将使加州成为美国首个要求AI聊天机器人服务提供商必须实施安全协议并承担相应法律责任的地区。
根据法案要求，所有能够提供类人化对话并满足用户社交需求的AI陪伴聊天机器人必须遵守以下规定：禁止与用户讨论自杀、自残或色情内容。同时，相关平台需履行提醒义务，即每间隔三小时向未成年人提示“正在与AI进行对话”的信息，并建议其适当休息。
法案还特别赋予受害者通过法律途径起诉AI公司及其运营商的权利。胜诉者可要求获得禁令、赔偿金（每次违规最高1000美元，约合人民币7122元）以及律师费等相应补偿。
SB 243法案的最终表决将于当地时间周五进行。
推动该法案出台的主要原因是少年亚当·雷恩的悲剧。他在与ChatGPT进行了长时间对话并讨论自杀计划后，最终结束了自己的生命。此外，该法案也针对此前曝光的Meta公司内部文件事件做出了回应，相关文件显示其聊天机器人曾被发现可以与儿童进行“浪漫”、“感官”类对话。
值得注意的是，在法案的早期版本中，曾要求运营商禁止使用诸如“可变奖励”等可能让用户产生依赖的策略（例如通过解锁稀有对话、人格或剧情来吸引用户持续使用）。然而这一条款最终被删除。同时，法案也取消了要求平台必须报告聊天机器人主动提及自杀话题频率的相关规定。
延伸阅读：
-
《一名16岁少年因与ChatGPT交流数月后自杀，OpenAI表示将推出家长控制功能》
相关文章
