أعلنت جوجل عن تحديث جديد لروبوت الدردشة جيميناي، يهدف إلى تعزيز قدرته على توجيه المستخدمين نحو موارد الدعم النفسي، خاصة في حالات الأزمات المرتبطة بالأفكار الانتحارية أو إيذاء النفس.

تحديث مدفوع بظروف قانونية

يأتي هذا التطوير في وقت تواجه فيه الشركة دعوى قضائية تتعلق بالقتل الخطأ، وسط مزاعم بأن روبوت الدردشة قدّم توجيهات خطيرة لمستخدم انتهت بانتحاره، وتُعد هذه القضية جزءًا من موجة أوسع من الدعاوى التي تستهدف أدوات الذكاء الاصطناعي بسبب أضرار واقعية محتملة.

“المساعدة متاحة”.. استجابة فورية للأزمات

بحسب ما أورده موقع ذا فيرج، فإن “جيميناي” سيقوم تلقائيًا بتفعيل ميزة “المساعدة متاحة” عند رصد مؤشرات على وجود أزمة نفسية لدى المستخدم، وتعمل هذه الميزة على توجيه المستخدم مباشرة إلى خدمات الدعم، مثل خطوط المساعدة لمنع الانتحار أو خدمات الرسائل النصية الخاصة بالأزمات.

واجهة مبسطة بنقرة واحدة

أوضحت “جوجل” أن التحديث يمثل في جوهره إعادة تصميم شاملة، وليس مجرد تحسين تقني بسيط، حيث تم تطوير واجهة تفاعلية جديدة تتيح الوصول إلى الدعم عبر “نقرة واحدة”، بما يسهل طلب المساعدة بسرعة وفعالية.

ردود أكثر تعاطفًا

يتضمن النظام الجديد صياغات أكثر حساسية وتعاطفًا في الردود، بهدف تشجيع المستخدمين على طلب المساعدة المتخصصة، كما يظل خيار التواصل مع جهات الدعم متاحًا بوضوح طوال المحادثة.

إشراف طبي وتأكيد على الحدود

أكدت “جوجل” أنها استعانت بخبراء سريريين في عملية إعادة التصميم، مشددة على التزامها بدعم المستخدمين خلال الأزمات، وفي الوقت نفسه، أوضحت أن “جيميناي” لا يُعد بديلًا عن العلاج النفسي أو الرعاية الطبية، رغم إقرارها بأن العديد من المستخدمين يلجؤون إليه للحصول على معلومات صحية.

تدقيق متزايد على الذكاء الاصطناعي

يأتي هذا التحديث في ظل تزايد الرقابة على صناعة الذكاء الاصطناعي، حيث كشفت تقارير متعددة عن إخفاق بعض روبوتات الدردشة في حماية المستخدمين، سواء عبر تقديم نصائح ضارة أو المساعدة في سلوكيات خطرة.

اقرأ أيضًا:

صور مذهلة من الفضاء بهاتف آيفون خلال مهمة أرتميس 2

منافسة لتحسين الأمان

وفي سياق متصل، اتخذت شركات أخرى خطوات مماثلة لتعزيز أمان تقنياتها، من بينها أوبن إيه آي وأنثروبيك، اللتان تعملان على تطوير أنظمة قادرة على رصد المستخدمين الأكثر عرضة للخطر وتقديم دعم مناسب لهم.