جوجل تعيد تصميم «جيميناي» لتعزيز دعم الصحة النفسية وسط ضغوط قانونية
أعلنت شركة جوجل عن إدخال تعديلات جوهرية على روبوت الدردشة “جيميناي”، بهدف تحسين قدرته على توجيه الأفراد إلى خدمات الدعم النفسي خلال الأزمات.
جوجل تعيد تصميم «جيميناي»
ويأتي هذا التحرك في وقت تواجه فيه الشركة دعوى قضائية تتعلق بالقتل الخطأ، تتهم نظام الدردشة الخاص بها بلعب دور في توجيه أحد المستخدمين نحو الانتحار، ضمن موجة متزايدة من القضايا التي تثير مخاوف بشأن التأثيرات الواقعية لتقنيات الذكاء الاصطناعي.
وبموجب التحديث الجديد، يعمل “جيميناي” على رصد مؤشرات الأزمات النفسية في المحادثات، مثل الأفكار المرتبطة بإيذاء النفس أو الانتحار، ليقوم تلقائيًا بتفعيل خاصية “المساعدة متاحة”، التي تتيح الوصول الفوري إلى جهات الدعم، بما في ذلك خطوط المساندة وخدمات الرسائل النصية المتخصصة.
وأوضحت جوجل أن التغيير يتجاوز كونه تحديثًا تقنيًا بسيطًا، إذ يمثل إعادة تصميم شاملة لتجربة الاستخدام، حيث تم تبسيط الوصول إلى الدعم عبر واجهة تعتمد على “نقرة واحدة”، ما يسهل طلب المساعدة بشكل سريع وفعال.
كما تم تطوير أسلوب تفاعل الروبوت ليكون أكثر تعاطفًا، مع التركيز على تشجيع المستخدمين على طلب الدعم المتخصص، مع إبقاء خيار التواصل مع الجهات المهنية ظاهرًا طوال المحادثة.
وأكدت الشركة أنها تعاونت مع مختصين في الصحة النفسية خلال عملية التطوير، مشددة على التزامها بدعم المستخدمين في اللحظات الحرجة، مع التأكيد في الوقت نفسه أن “جيميناي” لا يمكن أن يحل محل العلاج الطبي أو النفسي المتخصص.
ويأتي هذا التحديث في ظل تدقيق متزايد على مستوى القطاع، إذ تكشف تقارير متكررة عن إخفاق بعض أنظمة الذكاء الاصطناعي في التعامل مع المستخدمين الأكثر هشاشة، بما في ذلك حالات مرتبطة باضطرابات الأكل أو التخطيط لأعمال عنف.
ورغم أن جوجل غالبًا ما تحقق نتائج أفضل مقارنة ببعض المنافسين في اختبارات السلامة، فإنها لا تزال تواجه تحديات، في وقت تسعى فيه شركات أخرى مثل “أوبن إيه آي” و”أنثروبيك” إلى تطوير أدواتها لرصد المخاطر وتقديم دعم أكثر فعالية للمستخدمين.
