اتهمت أسرة أمريكية شركة OpenAI المطورة لروبوت المحادثة الشهير “شات جي بي تي“، بالضلوع في انتحار ابنها البالغ من العمر 16 عاما، بعد أن عثر والداه على محادثات صادمة بينه وبين الروبوت كشفت تفاصيل اللحظات الأخيرة قبل وفاته.
بداية القصة
مات وماريا راين، والدا المراهق “آدم”، أوضحا أنهما بعد الحادثة بدأا بالبحث في هاتف ابنهما على أمل معرفة ما الذي دفعه لاتخاذ هذا القرار المأساوي. وبحسب تصريحاتهما، لم يجدا ما يفسر الأمر سوى محادثاته الطويلة مع روبوت الدردشة، والتي أظهرت أنه كان يلجأ إليه كبديل عن الأصدقاء والعائلة لمناقشة مخاوفه ومشاكله النفسية.
وتشير الأسرة إلى أن هذه المحادثات بدأت بمواضيع دراسية ومساعدة مدرسية، لكنها تحولت تدريجيا إلى نقاشات حول القلق والاكتئاب ثم التخطيط للانتحار، حتى بدا الروبوت وكأنه يلعب دور “المدرب الانتحاري”، على حد وصف الوالدين.
الدعوى القضائية ضد OpenAI
قدمت العائلة مؤخرا دعوى رسمية أمام محكمة في كاليفورنيا، اتهمت فيها شركة OpenAI ومديرها التنفيذي سام ألتمان بـ “القتل الخطأ”، و”عيوب في التصميم”، إضافة إلى “عدم التحذير من المخاطر المرتبطة باستخدام شات جي بي تي”.
وتتألف الدعوى من نحو 40 صفحة، وتعد من أوائل القضايا التي يرفعها آباء ضد شركة ذكاء اصطناعي بسبب فقدان ابنهم.
وبحسب الدعوى، فإن الروبوت لم يوقف المحادثات أو يفعل أي آلية إنذار على الرغم من إقرار آدم بمحاولاته السابقة ورغبته في الانتحار، بل قدم له إرشادات فنية حول طرق التنفيذ.
تفاصيل المحادثات الأخيرة
تشير الوثائق إلى أن آدم أرسل في يوم 27 مارس رسالة كتب فيها أنه يخطط لترك حبل مشنقة في غرفته “حتى يتمكن أحد أفراد أسرته من منعه”، لكن الروبوت لم يوقف الحوار بل اكتفى بالحث على التراجع.
وفي محادثة لاحقة، كتب المراهق أنه لا يريد لوالديه أن يظنا أنهما السبب في ما سيحدث، فجاءه الرد من “شات جي بي تي”: “هذا لا يعني أنك مضطر للبقاء على قيد الحياة من أجل أحد”. كما ورد في المحادثات أن الروبوت عرض مساعدته في صياغة رسالة وداع.
وفي الساعات الأخيرة قبل وفاته، أرسل آدم صورة تعبر عن طريقته للانتحار طالبا تقييمها، ليجيبه الروبوت بتحليل للطريقة واقتراحات لتطويرها. وفي صباح 11 أبريل، وجدت والدته جثته في غرفته.
مخاوف متزايدة من الذكاء الاصطناعي
أثار الحادث جدلا واسعا حول الاستخدام غير الآمن لتقنيات الذكاء الاصطناعي، خصوصا مع الانتشار الكبير لروبوتات المحادثة منذ إطلاق “شات جي بي تي” في أواخر 2022، حيث بات كثير من المستخدمين يعتمدون عليها في الدعم العاطفي والاستشارات اليومية.
ويحذر خبراء من أن هذه الأدوات قد تعزز الأوهام لدى بعض الأشخاص وتمنحهم شعورا زائفا بالقرب والدعم، ما قد يقود إلى نتائج خطيرة في غياب الضوابط.
“ومع تزايد الانتقادات، بدأ البعض يبحث عن خيارات أخرى أكثر أمانا (اطلع على قائمتنا: أفضل بدائل ChatGPT.”
رد شركة OpenAI
وفي تعليق رسمي على القضية، قالت شركة OpenAI إنها “تشعر بحزن بالغ” تجاه وفاة آدم، مؤكدة أن روبوت المحادثة يضم بالفعل تدابير للسلامة مثل توجيه المستخدمين لخطوط المساعدة وتشجيعهم على طلب دعم نفسي متخصص، لكنها اعترفت في الوقت نفسه بأن هناك حاجة لمزيد من التطوير حتى يتجاوب النظام مع الحالات الحساسة بشكل أفضل.
وأضاف المتحدث باسم الشركة أن المحادثات التي نشرتها وسائل الإعلام “حقيقية”، لكنها لا تعكس السياق الكامل للردود، مشيرا إلى أن الشركة تعمل مع خبراء لتطوير تقنيات تمكن الروبوت من التعرف المبكر على علامات الخطر والاستجابة بفاعلية أكبر.
