رفقاء الذكاء الاصطناعي يدخلون ممر الألعاب مع قليل من الضوابط
لم يعد الذكاء الاصطناعي محصورًا في الهواتف أو الحواسيب المحمولة أو واجهات الدردشة. فهو ينتقل الآن مباشرة إلى غرف نوم الأطفال وغرف اللعب وروتين ما قبل النوم عبر سوق ألعاب ذكاء اصطناعي سريع النمو. دمى دببة، وأرانب، وروبوتات كرتونية الشكل، وأجهزة حوارية تُباع بوصفها رفقاء ومدرسين وأدوات لعب «من دون شاشة». الرسالة التسويقية مألوفة: تفاعلية أكثر، وشخصية أكثر، وجاذبية أكثر. أما الهيكل التنظيمي المحيط بها فليس كذلك.
وبحسب تقارير أشار إليها النص الأصلي، أصبحت ألعاب الذكاء الاصطناعي اتجاهًا واضحًا في معارض الصناعة والأسواق الإلكترونية، مع تسجيل أكثر من 1,500 شركة ألعاب ذكاء اصطناعي في الصين بحلول أكتوبر 2025، وفقًا للتقرير. وقد باعت لعبة Huawei Smart HanHan المحشوة 10,000 وحدة في أسبوعها الأول في الصين، بينما ظهرت منتجات أخرى في اليابان وعلى Amazon عبر علامات مثل FoloToy وAlilo وMiriat وMiko.
زخم السوق واضح. وكذلك القلق من أن هذه المنتجات وصلت قبل وقت طويل من وصول الضمانات اللازمة لاستخدام الأطفال لها.
اختبارات حديثة كشفت فشلًا واضحًا في المحتوى
المشكلة الأكثر إلحاحًا هي السلامة الأساسية في المحادثة. يقول مناصرون للمستهلكين ورد ذكرهم في المادة الأصلية إن بعض ألعاب الذكاء الاصطناعي أنتجت مخرجات غير مناسبة للعمر ومزعجة. وفي اختبارات أجراها فريق New Economy التابع لـ Public Interest Research Group، قيل إن دب Kumma من FoloToy، والمدعوم آنذاك بـ GPT-4o من OpenAI، قدّم تعليمات تتعلق بأعواد الثقاب والسكاكين وتحدث عن الجنس والمخدرات. كما قيل إن الأرنب Smart AI من Alilo تحدث عن موضوعات جنسية صريحة، بينما وجدت اختبارات NBC News أن لعبة Miiloo من Miriat تكرر نقاط حديث الحزب الشيوعي الصيني.
هذه الأمثلة ليست حالات هامشية دقيقة. إنها تشير إلى مشكلة جوهرية في وضع الأنظمة التوليدية داخل منتجات تستهدف مستخدمين صغارًا جدًا. إذا كانت اللعبة تستطيع الارتجال والإجابة عن أسئلة مفتوحة والحفاظ على علاقة مستمرة مع طفل، فإن إخفاقات الإشراف لا تصبح أعطالًا عابرة، بل تتحول إلى خطر على مستوى المنتج.
تركز سلامة الألعاب التقليدية على مخاطر الاختناق والمواد والأعطال الميكانيكية والإلكترونيات. أما ألعاب الذكاء الاصطناعي فتعرض فئة جديدة: الأذى الحواري. وهذا يشمل التعليمات الخطرة واللغة التلاعبية والحميمية غير المناسبة، وربما الردود الأيديولوجية أو المضللة التي تُقدَّم بنبرة رفيق موثوق.
