日本斥资十亿日元开发儿童虐待AI检测系统宣告失败

AI资讯1周前发布 ainav
11 0

近年来,人工智能技术在全球范围内取得了显著进展,日本企业和政府部门也在积极探索AI技术的应用场景。然而,在一片技术革新的热潮中,一项旨在保护儿童免受虐待的人工智能系统项目却以失败告终。

日本儿童虐待检测 AI 系统项目宣告失败,耗资十亿日元开发

据日本《读卖新闻》报道,日本儿童与家庭机构耗资约 10 亿日元(约合人民币 4850.6 万元),开发了一套基于人工智能的儿童虐待检测系统。该系统的主要目的是协助负责临时监护儿童的专业人员,评估受虐待儿童是否适合重返原生家庭。在技术研发过程中,研究团队利用 5000 起已确认的儿童虐待案例对系统进行训练,并通过分析包括儿童伤痕、父母态度等在内的 91 个数据点,对新案例进行风险评分。

然而,这套备受期待的AI系统在实际测试中表现令人失望。在针对 100 起已确认存在虐待风险的案例测试中,系统仅成功识别出 38 起,其余 62 起均被判定为”风险极低”。例如,在一起极端虐童案例中,一名儿童声称其母多次将其头部撞击地面,导致身体严重受伤,但该系统却仅给出了 2 到 3 分的低分(满分 100 分)。专家分析认为,系统过分依赖于物理证据,而对口头证词的重要性考虑不足。此外,系统的训练数据量仅为 5000 例,这在很大程度上限制了模型的学习能力。

更糟糕的是,该机构还承认,在数据采集过程中存在诸多疏漏,例如未能准确记录儿童体重下降或伤痕等关键信息。多重缺陷之下,日本儿童与家庭机构最终决定放弃这一耗资巨大的AI项目。

当前,日本正面临着人口老龄化和劳动力短缺的双重压力,与此同时,社会各界对儿童保护工作的关注度也在持续提升。此前就有相关报道指出,日本在处理儿童虐待问题时往往过于迁就加害人,导致不少受害者权益得不到有效保障。此次AI项目的失败案例,再次暴露了技术落地过程中可能存在的深层问题。虽然生成式 AI 技术正在快速发展,但高质量、高容量的数据获取难题,仍然是制约机器学习和AI系统应用的关键瓶颈。

© 版权声明

相关文章