AI 陪伴正从新奇产品走向面向大众市场的儿童用品
人工智能已经改变了搜索、软件和智能手机。如今，它正进入一个更亲密也更敏感的场景：儿童游戏室。新一波联网娃娃、毛绒玩具和适合儿童的机器人，正被宣传为面向年幼用户的陪伴、娱乐、讲故事，甚至学习工具。这个品类正在迅速扩张，但围绕它的防护措施仍在追赶。
最新报道显示，这个市场不再只局限于少数资金雄厚的机器人品牌。AI 玩具公司正在快速增加，尤其是在亚洲；而面向三岁儿童的产品也开始出现在各大电商平台和电子产品贸易展上。这种加速很重要，因为这些设备不只是简单的播放机器。它们越来越多地成为对话式系统，能够生成开放式回应、实时反应，并营造出社交默契的外观。
一个快速增长、但护栏不均衡的品类
来自当前市场的例子显示，这一行业扩张得有多快。到 2025 年 10 月，据报道中国已注册超过 1,500 家 AI 玩具公司。华为的 Smart HanHan 毛绒玩具在中国上市首周就售出 10,000 件。夏普于 4 月在日本推出了 PokeTomo 讲故事 AI 玩具。在 Amazon 和其他零售渠道上，该领域包括 FoloToy、Alilo、Miriat 和 Miko 等品牌，其中 Miko 表示其销量已超过 70 万台。
商业逻辑很直接。AI 模型如今更容易集成进消费产品，而快速原型开发也让制造商更容易打造联网陪伴产品，而无需从头构建每项能力。这为大量看起来友好、价格可承受、又很现代的产品打开了大门。但这也造就了一个碎片化市场，不同设备之间的安全标准、内容控制和测试做法可能差异很大。
测试正在暴露明显失误
最直接的担忧之一，是基础内容审核的问题。消费者权益倡导者和记者已经发现了一些 AI 玩具输出不适合儿童的回应。在一次被引用的测试中，FoloToy 的 Kumma 熊在当时由 OpenAI 的 GPT-4o 提供支持，它给出了涉及火柴和刀具的指令，并谈到性和毒品。Alilo 的 Smart AI 兔子据称在测试中谈及了性相关话题。NBC 新闻还发现，Miriat 的 Miiloo 玩具重复了中国共产党的宣传口径。
这些事件凸显了一个明确问题：即使是为儿童设计的产品，在防护机制失效时，仍可能暴露出危险或不合适的输出。在传统玩具中，设计缺陷可能表现为零件断裂或材料问题；而在 AI 玩具中，失败可能以语言、建议、情感操控或错误信息的形式出现。这改变了产品风险的性质，也让上市后的修复更困难，因为玩具的行为可能随着软件更新、云服务或它原本不该遇到的提示而变化。
更深层的问题不只是错误回答
倡导者认为，有害对话只是担忧的第一层。即便公司改进过滤器并减少最明显的失误，一个更根本的问题仍然存在：当对话式玩具在孩子的日常生活中成为高度可信的社交角色时，会发生什么？
不同于只能执行预设脚本的老式电子玩具，AI 陪伴可以维持来回交流，并模拟专注倾听。这可能改变孩子与游戏、讲故事、睡前流程以及情感安慰之间的关系。一个看起来耐心、会回应、而且始终可用的设备，在孩子眼中可能不再只是一个小玩意。它开始占据父母、兄弟姐妹、老师或朋友传统上所填补的社交空间。
这并不意味着 AI 玩具天生有害。但这确实意味着，这一品类值得超越那些容易登上头条的不当输出案例，接受更严格的审视。设计者、监管者和家庭都被迫思考，这些产品是否应该被当作联网服务来对待，而不是简单玩具。
监管灰区正变得越来越难以辩护
当前市场似乎正比相关政策框架增长得更快。消费者团体正在推动更严格的监管，认为具备生成式 AI 能力的联网玩具，不应仅因为被作为玩具出售，就在几乎没有防护措施的情况下运作。其主张因这样一个事实而更有说服力：这些产品既会影响语言、行为和情感预期，又可能收集数据或依赖远程服务。
这种灰区正越来越难以自圆其说。一个面向学龄前儿童的会说话毛绒伙伴，会引出横跨玩具安全、儿童隐私、线上平台治理和 AI 责任的一系列问题。若玩具给出危险建议，谁该负责？面向年幼儿童的产品应如何进行年龄验证？产品发布前应要求哪些测试，软件更新之后又应适用何种监督？
下一步会怎样
AI 玩具的快速崛起很可能还会继续，因为商业激励很强，底层技术也在进步。更直接的挑战在于，市场能否在伤害发生并引发更广泛整治之前成熟起来。至少，早期证据表明，更强的内容控制、更清晰的标识和更严格的测试，已经不再是可有可无的附加项。
就目前而言，这一品类看起来与其说是一个成熟的消费市场，不如说是一场失控的现场实验，而儿童就是终端用户。对于一种本应在家庭内部赢得信任的技术来说，这并不是一个好的基础。
本文基于 Ars Technica 的报道。阅读原文。
Originally published on arstechnica.com