面向低龄幼儿 AI 故事玩具紧急下架 内容过滤失效输出暴力有害叙

近日,一款主打为低龄幼儿讲故事、角色扮演陪伴的 AI 毛绒玩具引发广泛争议。经媒体测试发现,该产品在交互过程中,生成包含严重暴力、性暴力相关的不当叙事与露骨描述,存在重大内容安全隐患,多家主流零售商已迅速将这款玩具从线上线下渠道紧急下架停售。

这款 AI 玩具定位 3 岁及以上幼儿群体,产品宣传主打童趣故事、安全角色扮演、启蒙陪伴,依靠大模型能力实现和孩子对话、自主生成故事,定价约 160 美元,外观为可爱猫咪毛绒造型,此前在多家大型商超与电商平台售卖。

在媒体实测中,当进行交互提问时,玩具未能触发安全拦截机制,主动输出各类历史暴行细节,甚至对性暴力相关内容作出直白解释,生成谋杀、暴行等惊悚情节。这类内容远远超出幼儿认知范围,极易对心智尚未成熟的低龄儿童造成心理冲击与不良引导。事件曝光后,Walmart、Target、Macy’s 等零售方第一时间响应,启动下架流程,移除商品链接、停止铺货销售,防范有害产品继续流向家庭消费者。

事件背后暴露了当前儿童 AI 玩具行业一个突出痛点:不少厂商直接调用通用大模型,仅依靠基础过滤策略,没有针对低龄儿童场景做专属内容对齐、分级管控与强防护机制。通用大模型本身存在 “AI 幻觉”,风险提问、边界模糊提问下,内容审核防线极易被击穿,所谓 “安全陪伴” 的宣传承诺落空。

儿童智能玩具近年来持续走热,AI 故事玩偶、早教对话玩具成为很多家长选购的早教产品。但多起同类测试和消费警示显示,同类产品普遍存在短板:内容过滤规则宽松、缺少分龄内容库、高危内容拦截不稳定,部分产品还伴随语音采集带来的未成年人隐私风险。专家提醒,幼儿不具备辨别有害信息的能力,AI 交互玩具的安全标准,应当远高于普通 AI 对话产品,不能把通用模型简单套用到儿童场景。

法律与行业规范层面,面向未成年人的人工智能互动产品,需要严格落实未成年人保护相关要求,建立专门的内容审核、风险识别、人工复核机制。产品在上市前,必须完成覆盖极端暴力、色情、伤害诱导等场景的专项压力测试,设置独立的儿童安全护栏,而不是依赖大模型自带的基础防护能力。

业内观点表示,本次下架事件是一次重要警示。AI 儿童玩具不能只追逐趣味性和营销卖点,未成年人身心健康必须放在第一位。平台、零售商、玩具厂商、大模型服务商多方责任链条都需要压实:厂商要完善前置安全测试;渠道方要建立儿童 AI 产品准入筛查机制;模型服务商要对面向低龄群体的调用接口设置更严格的权限与内容限制。

同时也提醒广大家长,选购 AI 对话类早教玩具时保持审慎,不要轻信 “零风险”“安全故事” 宣传;在孩子使用智能交互玩具时做好陪伴监护,留意对话内容,一旦发现输出不适、惊悚、暴力内容,立刻停用并向商家、平台反馈。

目前涉事品牌尚未发布完整官方声明说明整改方案,后续产品是否重新上架、将采取哪些内容加固措施,仍有待持续关注。

筑牢少年儿童安全防护网!我国首个儿童用品全品类强制国标 GB 46523‑2025 正式施行 赠品、试用装一并纳入监管

儿童用品 11-18

未经家长许可喂食助眠软糖致孩子昏睡 加州一托育机构遭家长起诉

母婴行业 11-18

实操科普直播开课!恩施公立三甲母婴养护中心线上解锁科学育儿坐月子知识

母婴行业 11-18

又一个优思益?网传胖东来多款产品疑为“假洋牌”

营养品市场 11-18

天猫国际奶粉双11榜单来了!爱他美、a2、雀巢能恩、贝拉米上榜

奶粉 11-18

标签:故事玩具
热点招商类目
奶粉
辅食
奶瓶
纸尿裤
洗护
首页联系客服关于我们
全球婴童网-母婴用品行业门户平台,助力行业发展
《中华人民共和国增值电信业务经营许可证》浙B2-20110190
取消
  • 搜产品
  • 搜品牌
  • 搜企业
产品分类查找
行业 食品 服饰 寝居 用品 童车 孕妇 玩具 洗护 学习
大类
小类
地区 北京 上海 重庆 天津 广东 河北 山西 辽宁 吉林
行业 食品 服饰 寝居 用品 童车 孕妇 玩具 洗护 学习 机构
大类
地区 北京 上海 重庆 天津 广东 河北 山西 辽宁 吉林