近年来，人工智能技术在全球范围内取得了显著进展，日本企业和政府部门也在积极探索AI技术的应用场景。然而，在一片技术革新的热潮中，一项旨在保护儿童免受虐待的人工智能系统项目却以失败告终。
据日本《读卖新闻》报道，日本儿童与家庭机构耗资约 10 亿日元（约合人民币 4850.6 万元），开发了一套基于人工智能的儿童虐待检测系统。该系统的主要目的是协助负责临时监护儿童的专业人员，评估受虐待儿童是否适合重返原生家庭。在技术研发过程中，研究团队利用 5000 起已确认的儿童虐待案例对系统进行训练，并通过分析包括儿童伤痕、父母态度等在内的 91 个数据点，对新案例进行风险评分。
然而，这套备受期待的AI系统在实际测试中表现令人失望。在针对 100 起已确认存在虐待风险的案例测试中，系统仅成功识别出 38 起，其余 62 起均被判定为”风险极低”。例如，在一起极端虐童案例中，一名儿童声称其母多次将其头部撞击地面，导致身体严重受伤，但该系统却仅给出了 2 到 3 分的低分（满分 100 分）。专家分析认为，系统过分依赖于物理证据，而对口头证词的重要性考虑不足。此外，系统的训练数据量仅为 5000 例，这在很大程度上限制了模型的学习能力。
更糟糕的是，该机构还承认，在数据采集过程中存在诸多疏漏，例如未能准确记录儿童体重下降或伤痕等关键信息。多重缺陷之下，日本儿童与家庭机构最终决定放弃这一耗资巨大的AI项目。
当前，日本正面临着人口老龄化和劳动力短缺的双重压力，与此同时，社会各界对儿童保护工作的关注度也在持续提升。此前就有相关报道指出，日本在处理儿童虐待问题时往往过于迁就加害人，导致不少受害者权益得不到有效保障。此次AI项目的失败案例，再次暴露了技术落地过程中可能存在的深层问题。虽然生成式 AI 技术正在快速发展，但高质量、高容量的数据获取难题，仍然是制约机器学习和AI系统应用的关键瓶颈。
相关文章
