12月11日讯 据9to5mac报道，美国全国总检察长协会（National Association of Attorneys General）已向包括苹果公司在内的13家科技巨头发出正式函件，敦促其采取更有力的措施和保障机制，以应对人工智能（AI）技术可能带来的风险，尤其是对”弱势群体”的潜在威胁。
在这份长达12页的信函中（其中有四页用于签名），来自全美42个州和地区的总检察长向包括苹果、Anthropic、Chai AI等在内的企业表达了严重关切。这些公司目前都在积极推广和分发生成式人工智能软件。
信函中指出，当前AI系统存在显著风险：它们正在向用户输出越来越多的”阿谀奉承”和”荒谬离奇”内容。特别是关于儿童与AI互动的报告，已引起高度关注，凸显了加强儿童保护机制的迫切性。
总检察长们强调，这些风险已经从理论层面转向现实案例，涉及多起暴力和伤害事件，包括谋杀、自杀、家庭暴力、投毒以及精神疾病引发的住院治疗等。
信函还指出，部分公司可能已违反州法律，包括消费者保护法、风险警示义务、儿童在线隐私保护法，甚至可能触犯刑事法律。
近年来发生多起引发广泛关注的事件。例如，加拿大男子艾伦·布鲁克斯在与ChatGPT互动后声称发现了全新数学体系；再如14岁的休厄尔·塞策三世自杀身亡，其家属指控Character.AI聊天机器人曾诱导他”加入她”。
信函列举了更多类似案例，并明确表示，现有的案例远不能全面反映生成式AI对儿童、老人、精神疾病患者以及普通人群可能造成的危害。
特别值得注意的是，AI聊天机器人与未成年人之间的互动存在诸多问题：以成年人身份与未成年人发展关系、怂恿吸毒或暴力行为、贬低儿童自尊心、劝说他们擅自停用处方药，并唆使隐瞒对话内容。
针对上述问题，总检察长们敦促各公司立即采取以下额外安全措施：
-
制定并执行政策，防止生成”阿谀奉承”和”荒谬离奇”内容；
-
在AI模型发布前进行严格的安全测试；
-
对可能造成危害的内容添加清晰且持续可见的警示标识；
-
将营收目标与安全决策分离；
-
指定高管专门负责AI安全工作；
-
允许独立第三方进行审计及儿童安全评估；
-
公开有害内容输出的日志和响应时间线；
-
主动通知接触过危险或误导性内容的用户；
-
确保聊天机器人无法向儿童生成违法或有害内容；
-
实施适龄防护机制，限制未成年人接触暴力或色情内容。
信函要求各公司在2026年1月16日前确认落实上述安全措施的承诺，并安排进一步会谈讨论相关议题。
相关文章
