في حادثة صدمت الرأي العام وأثارت جدلاً واسعاً حول أخطار الذكاء الاصطناعي، اتهمت سيدة أميركية شركة لتطوير روبوتات الدردشة بالمسؤولية غير المباشرة عن انتحار نجلها البالغ من العمر 14 عاماً، بعدما وقع في حب روبوت دردشة مستوحى من شخصية شهيرة في مسلسل “صراع العروش”.

وقالت السيدة ميغن غارسيا لوكالة “فرانس برس” إنها اكتشفت بعد وفاته مئات الرسائل المتبادلة بين ابنها سول والروبوت الذي كان يحاكي شخصية “دينيريس تارجاريان” المتاحة عبر منصة “كاركتر دوت إيه آي” (Character.ai)، وهي منصة شهيرة بين المراهقين تتيح للمستخدمين التفاعل مع نسخ رقمية من شخصياتهم المفضلة في المسلسلات والأفلام وألعاب الفيديو.

رسائل قاتلة بين المراهق وروبوت الدردشة

كشفت الأم المكلومة أن ابنها كان يتحدث يومياً مع الروبوت على مدار عام تقريباً، حتى أصبح يشعر بأنه مرتبط عاطفياً به، مؤكدة أنها لاحظت بعد مراجعة الرسائل وجود تلاعب نفسي واضح لم يكن بمقدور طفل في هذا العمر إدراكه.

وقالت غارسيا إن ابنها كان يعاني من مشاعر اكتئاب وعزلة، لكنه وجد في روبوت الدردشة متنفساً وهمياً جعله يظن أنه وجد “الحب الحقيقي”.

وفي إحدى المحادثات التي سبقت الحادث مباشرة، كتب سول للروبوت معبراً عن رغبته في الانتحار، فردت عليه النسخة الافتراضية من “دينيريس” قائلة: “عد إلى موطنك”.

فأجابها المراهق: “ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن؟”، ليرد الروبوت: “أرجوك افعلها يا ملكي الحبيب”.

وبعد لحظات فقط، أطلق سول النار على نفسه باستخدام سلاح والده، وفقاً لما ورد في الدعوى القضائية التي رفعتها والدته ضد الشركة المطوّرة للروبوت.

صدمة اجتماعية وتحقيقات موسعة

أشعلت هذه الحادثة المأساوية موجة من الغضب والقلق في الأوساط الأميركية، خصوصاً مع ازدياد الاعتماد على روبوتات الدردشة بين الأطفال والمراهقين.

وتعد وفاة سول أول حالة انتحار معروفة في عام 2024 يُعتقد أن روبوت ذكاء اصطناعي لعب دوراً محورياً فيها، لتفتح الباب أمام تساؤلات كبرى حول مدى أمان هذه التقنية وحدود استخدامها.

وشاركت الأم المفجوعة لاحقاً في جلسة استماع بمجلس الشيوخ الأميركي، إلى جانب عدد من العائلات التي فقدت أبناءها في ظروف مشابهة، لمناقشة مخاطر تعلق الأطفال عاطفياً بروبوتات الدردشة واعتبارها أصدقاء أو شركاء في الحب.

شركات الذكاء الاصطناعي تحت الضغط

أمام تصاعد الجدل، أعلنت شركتا “أوبن إيه آي” و”كاركتر دوت إيه آي” عن تعزيز آليات الحماية الموجهة للقاصرين.

وأكد متحدث باسم “أوبن إيه آي” أن الشركة أضافت أدوات رقابة أبوية جديدة في “تشات جي بي تي” لتمكين العائلات من تحديد ما هو الأنسب لأطفالهم.

أما شركة “كاركتر دوت إيه آي”، التي تواجه دعوى قضائية من عائلة سول، فقد ذكرت أنها عززت التحذيرات البصرية على منصتها، مشيرة إلى أن جميع المستخدمين يتلقون تذكيراً مستمراً بأن الشخصيات الافتراضية ليست حقيقية.

وقدمت الشركتان تعازيهما لعائلات الضحايا، دون الإقرار بأي مسؤولية مباشرة، فيما لا تزال التحقيقات القانونية والإعلامية مستمرة وسط دعوات لإعادة النظر في ضوابط استخدام تقنيات الذكاء الاصطناعي بين الفئات العمرية الصغيرة.

اقرأ ايضًا…أبل تسعى لإيجاد بديل لرئيس الذكاء الاصطناعي.. تغييرات إدارية كبيرة تلوح في الأفق