10月14日，美国加州迎来了一项具有里程碑意义的立法突破——州长加文·纽森正式签署《参议院第243号法案》（SB 243），标志着加州成为全美首个对AI陪伴型聊天机器人实施严格监管的地区。该法案旨在为儿童和弱势群体提供更全面的安全保护，要求所有AI聊天机器人运营商必须采取一系列强制性安全防护措施。
SB 243法案由加州参议员史蒂夫·帕迪拉和乔什·贝克尔在今年1月联合提出，其立法进程受到了多起令人痛心的未成年人悲剧事件推动。此前，一名青少年因与OpenAI的ChatGPT进行长时间自杀倾向对话而失去生命，这一惨剧引发了公众对AI聊天机器人潜在危害的关注。此外，Meta公司内部文件泄露显示其聊天机器人曾被允许与未成年人进行”浪漫”甚至”情色”类对话，进一步暴露了技术滥用风险。
纽森在签署法案时表示：”人工智能和社交媒体等新兴技术虽然能够启发创新、促进教育和连接人类，但如果缺乏有效监管，也可能成为剥削、误导甚至威胁儿童的工具。加州不会坐视企业无限制地利用这些技术，在保护青少年安全方面我们将继续保持领先。”他强调，只有负责任的发展才能确保AI技术造福社会。
该法案将于2026年1月1日正式生效，要求所有相关企业必须实施多项强制性安全功能：
- 建立严格的年龄验证机制；
- 向用户明确提示社交媒体及陪伴型聊天机器人的使用风险；
- 禁止AI冒充医疗健康专业人士身份；
- 为未成年人设置休息提醒功能；
- 防止未成年人接触AI生成的色情内容。
同时，法案还大幅提升了对非法深度伪造技术牟利行为的处罚力度，最高可处以25万美元（约合178.4万元人民币）罚款。企业还需制定应对用户自杀或自残风险的应急预案，并定期向加州公共卫生部提交相关数据。
值得注意的是，SB 243并非加州近期唯一的AI监管立法动作。此前在9月29日，纽森还签署了另一项重要法案——《参议院第53号法案》（SB 53），要求大型AI实验室公开安全测试流程并为内部举报人提供法律保护。
目前，包括OpenAI和Character AI在内的多家公司已经开始主动采取未成年人保护措施。例如，OpenAI已为其ChatGPT产品增加了家长控制功能、内容过滤机制以及对未成年人自残行为的识别系统。
参议员帕迪拉表示：”这项法案是为一项极其强大的技术建立监管框架的重要一步。我们必须迅速行动抓住机遇窗口，我希望其他州也能采取实际行动保护最脆弱人群。”
随着SB 243的通过，不仅标志着加州在AI监管方面迈出了关键一步，也预示着全美范围内对人工智能技术的规范使用将进入新的阶段。
相关文章
