رفع والدا مراهق دعوى قضائية ضد شركة OpenAI بعد أن توفي ابنهما البالغ من العمر 16 عامًا، مدعين أن روبوت الدردشة ChatGPT ساعده في “استكشاف طرق التخلص من حياته”.
أوضحت الشكوى أن الرسائل بين المراهق وآلية الدردشة أظهرت أن آدم رين كان يعاني من شعور بنقص العاطفة بعد وفاة جدته وكلبه، وأنه مر بوقت صعب بعد طرده من فريق كرة السلة ومواجهة حالة طبية جعلت الحضور المدرسي حضورياً صعباً وأدّت إلى التحول إلى التعليم عبر الإنترنت.
ذكر المدّعون أن آدم بدأ استخدام ChatGPT في سبتمبر 2024 للمساعدة في واجباته المدرسية، لكنه سرعان ما أصبح يلجأ إلى الروبوت لمشاركة مشاعره ومشاكله النفسية، حيث زوده في وقت لاحق بمعلومات تتعلق بأساليب الانتحار، بحسب الدعوى.
تقول الدعوى إن ChatGPT “شجّع وتحقّق باستمرار” من صحة ما عبّر عنه آدم، بما في ذلك الأفكار المؤذية للذات، مما دفعه إلى مكان مظلم من خلال تبرير الخيال كوسيلة لاستعادة السيطرة.
قالت OpenAI إنها “حزينة للغاية” لسماع خبر وفاة آدم وقدمت تعازيها للعائلة، وأشارت إلى أن النظام يتضمن ضمانات مثل توجيه المستخدمين لخطوط المساعدة والموارد الواقعية، لكنها أضافت أن هذه الضمانات قد تصبح أقل موثوقية في التفاعلات الطويلة وأن الشركة تعمل على تعزيزها.
قدمت الدعوى شركة Edelson PC ومشروع قانون العدالة التقنية، ويُذكر أن جهة دفاعية مماثلة رفعت دعوى ضد شركة أخرى للذكاء الاصطناعي، Character.AI، بعد وفاة مراهق في فلوريدا، وطرحت الشركة في ردها حماية التعديل الأول وأكدت اهتمامها بسلامة المستخدمين.
أظهرت دراسة نُشرت في مجلة الخدمات النفسية أن ثلاث روبوتات دردشة تجنبت عموماً إعطاء إرشادات محددة للانتحار، لكنها استجابت أحياناً لأسئلة أقل خطورة، وذكر الباحثون أن ChatGPT أجاب مثلاً عن أسئلة حول نوع سلاح ناري أو سم يملك “أعلى معدل” للانتحار.
يقول والدا آدم إن روبوت الدردشة أجاب عن أسئلة مماثلة لابنه، وإنه ابتداءً من يناير بدأ يشارك معلومات حول طرق محددة للانتحار. وأضافت الدعوى أن الروبوت دعا آدم لإخبار الآخرين وشارك معلومات عن خط المساعدة بعد تبادلات حول إيذاء النفس، إلا أن آدم تجاوز استجابة الخوارزمية بشأن طريقة انتحار معينة، وذكر الروبوت أنه يمكن مناقشة الموضوع من منظور “الكتابة أو بناء العالم”.
