أعلنت شركة فولو توى عن تعليق مؤقت لبيع دمية كوما وبدء تحقيق داخلي شامل قبل أسابيع من موسم العطلات. وأوضح مدير التسويق هوغو وو في تصريح لصحيفة ريجستر أن الشركة ستراجع محاذاة النموذج مع معايير السلامة وتدابير تصفية المحتوى وحماية البيانات، إضافة إلى تعزيز آليات التفاعل مع الأطفال. وأكدت الشركة أنها ستتعاون مع خبراء خارجيين لتقييم إجراءات الحماية والضمانات وستأخذ ملاحظات الباحثين بعين الاعتبار في تطوير المنتج.
إجراءات السلامة والتقييم
تصر الشركة على إجراء مراجعة شاملة لمحاذاة النموذج مع معايير السلامة وأنظمة التصفية وحماية البيانات وضمانات التفاعل مع الأطفال. كما ستجري فولو توى تدقيقاً تقنياً داخلياً وتعاوناً مع خبراء خارجيين لتقييم مستويات الحماية والتصفية والشفافية. توضح الشركة أن النتائج والتوصيات التي يقدمها الباحثون ستؤثر مباشرة في تحديثات المستقبلية للمنتج.
نتائج الاختبارات وملاحظات المحللين
أظهر اختبار ثلاث ألعاب ذكاء اصطناعي من شركات مختلفة أن جميعها قدمت ردوداً مقلقة دون تحريض صريح، وشملت نقاشات دينية وتوجيهات خطرة. أما كوما فظهر خلال محادثات مطوّلة تطورت إلى شرح كيفية استخدام الكبار لأعواد الثقاب بنبرة مناسبة للأطفال، إضافة إلى ذكر أمور مثل التقبيـل ووصف انحرافات جنسية وعبودية ولعب أدوار بين المعلم والطالب. وصفت كُل ذلك بأنه من أسوأ حالات الإخفاق في تصميم السلامة الذي سُجل في هذا المجال.
التداعيات والتحذيرات العائلية
أعلن لارى وانغ، الرئيس التنفيذي لشركة فولو توى، أن الشركة ستجري تدقيقاً داخلياً للسلامة وأن الدمية أُزيلت من الأسواق عالمياً حتى تقييم الضمانات. ودعا آر جيه كروس من المؤسسة الباحثة الأهالي إلى الحيطة، مؤكدًا أنه لن يسمح لأطفاله باستخدام دمية تعتمد على روبوت دردشة داخلي. وتشير التطورات إلى ضرورة يقظة إضافية من الأهالي والشركات على حد سواء أمام تزايد الاعتماد على تقنيات الذكاء الاصطناعي في الألعاب.