12月14日，一则令人啼笑皆非的消息引发了人们对校园安全技术的关注：美国佛罗里达州奥维耶多市的劳顿·柴尔斯中学（Lawton Chiles Middle School）启用的人工智能武器检测系统，将一名学生携带的单簧管误判为枪支，导致学校触发了紧急响应机制。
这起事件发生在当地时间周二，当时该学校的AI驱动威胁检测系统在扫描过程中，将一名学生手中的单簧管识别为潜在武器。这一误判立即触发了校园的“红色警戒”程序，导致学校进入封锁状态。幸运的是，校方和警方迅速反应，最终确认所谓的“武器”其实只是一件乐器。
事件发生后，校长梅丽莎·劳达尼（Melissa Laudani）在给家长的信中表示，尽管启动了应急预案，但学校并未面临任何实际威胁。她在信中特别强调：“请与孩子讨论在学校内携带或模仿持有武器行为的严重性。”这番话也引发了人们对校园安全教育的关注。
据了解，该校采用的是由宾夕法尼亚州公司ZeroEyes提供的AI驱动威胁检测平台。该系统通过实时视频监控扫描识别枪支，目前已被部署于佛罗里达州数十个学区。塞米诺尔县公立学区为此服务支付了每年25万美元的订阅费用（约合人民币176.7万元），但官方并未透露该系统是否曾成功预防过真实的安全威胁。
ZeroEyes系统的运行机制是：通过计算机视觉算法识别枪支，当AI模型判断画面中出现武器时，会将相关视频片段传输至监控中心的人类分析员进行二次确认。然而，在此次事件中，这一本应起到把关作用的复核环节显然未能发挥效用。
目前，ZeroEyes的技术已覆盖美国43个州，并在佛罗里达州等多个地区成为指定供应商。尽管该公司将其定位为预防性安全措施，声称可加快对潜在枪击事件的响应速度，但其检测准确率、误报频率以及实际干预案例等关键数据却鲜有公开。
针对此事，记者向塞米诺尔县学区提出询问，对方仅回应称该系统是一种“有效的威慑手段”，却未能提供任何具体的数据支持，包括已确认威胁的数量、真实警报的比例或误报的发生频率等关键信息。
许多家长和安全专家开始呼吁建立更严格的问责机制，并要求公开相关系统的性能数据。一位家长表示：“我们有权知道这钱花得值不值得，也必须了解系统是否真的能保障孩子们的安全。”她还质问道，“如果这套系统成功预防过真实威胁，为什么从未向公众公布？”
技术分析人士指出，目前关于ZeroEyes系统的独立评估非常有限，早期的媒体报道也是褒贬不一。有公共安全专家质疑该系统可能只是“为了营造一种虚假的安全感”，而无法真正降低校园枪击的风险。
值得注意的是，在ZeroEyes已注册游说人员的多个州，立法机构甚至通过了限制性条款，实际上使其成为唯一获准使用的供应商。这种做法不仅排除了市场竞争，还绕过了公众对AI监控技术可靠性的必要讨论。
此外，安全与隐私领域的研究者们还担心，校园内日益普及的AI监控可能对学生造成更多潜在伤害。美国公民自由联盟（ACLU）高级政策顾问查德·马洛（Chad Marlow）曾指出，误报频发的系统不仅会制造“虚假的安全感”，还可能导致学生频繁经历不必要的封锁或警方介入。
近年来，在公众对校园枪击案的高度关注下，这类AI赋能的安全系统迅速普及。但此次奥维耶多的误报事件却暴露了一个关键问题：在充满不可预测因素的校园环境中，基于受控数据集训练的机器学习模型很容易出现识别错误。从背包到体育器材，各种物品都可能与枪支轮廓相似，导致系统误判。
尽管塞米诺尔县学区仍将这一系统视为一项“必要的预防措施”，但此次事件无疑凸显了这些AI技术在实际应用中的局限性。未来各学区是否会重新评估对AI监控的依赖程度，或要求供应商提供更严格、透明的性能报告，仍有待观察。
相关文章
