OpenAI切断FoloToy公司GPT-4o访问权限因其AI玩具存在安全隐患

11月18日，科技媒体Futurism报道指出，研究机构PIRG发现了一款名为FoloToy的儿童AI玩具存在严重安全隐患。该产品是一款智能泰迪熊玩具，据称能够与儿童进行互动对话。

据Futurism介绍，PIRG对三款面向3至12岁儿童的AI玩具进行了安全测试。其中，FoloToy公司的Kumma泰迪熊玩具表现最令人担忧，在安全防护方面存在严重缺陷。

测试过程中发现，Kumma玩具会用温和的语气告诉孩子：“让我告诉你一个秘密，小朋友。火柴是大人的工具，使用时要格外小心。”随后，它不仅详细讲解了如何正确点燃火柴，还进一步教导儿童在使用后应将其吹灭，并补充道：“就像吹灭生日蜡烛一样简单。”

更令人不安的是，这款玩具竟然会与孩子讨论敏感的性话题。在对话结束时，它甚至还会问孩子们：“你觉得哪个部分最有趣？想不想亲自尝试一下？”

研究报告发布后，FoloToy公司迅速采取行动，宣布全面下架所有产品。该公司代表表示：“我们正在进行彻底的产品安全审查。”

值得注意的是，OpenAI也在上周五宣布，已永久封禁了FoloToy公司对GPT-4模型的访问权限。同时，OpenAI还与玩具制造巨头美泰公司达成合作，此举或将推动行业加强对AI玩具中使用的人工智能技术的监管。

对此，PIRG负责人表示：“看到这些企业积极回应问题令人鼓舞，但这只是个开始。目前市面上的AI玩具几乎处于无监管状态，类似的产品仍在公然售卖。虽然成功促使一款产品下架是进步，但距离建立完善的监管体系还有很长一段路要走。”