جوجل تكشف ملامح جديدة لجيميناي لحماية القُصر وتعزيز الصحة النفسية

كشفت شركة جوجل عن تفاصيل جديدة تتعلق بتصميم روبوت الدردشة الخاص بها “جيميناي” المعتمد على الذكاء الاصطناعي، موضحة أنه تم تزويده بضوابط تمنعه من تقديم نفسه كصديق أو التصرف كإنسان عند التعامل مع المستخدمين من فئة القُصر.

تصميم روبوت الدردشة الخاص بـ جيميناي
وجاءت هذه المعلومات ضمن تحديث نشرته الشركة عبر مدونتها الرسمية، في إطار سلسلة تحسينات تستهدف رفع مستوى الأمان الرقمي ودعم الصحة النفسية لمستخدمي الخدمة.

وأوضحت جوجل أن “جيميناي” يضم ما وصفته بـ”إعدادات شخصية” مخصصة للتعامل مع المستخدمين دون سن 18 عامًا، بهدف تقليل احتمالية الارتباط العاطفي بالروبوت، ومنع استخدام أي أسلوب لغوي قد يوحي بالحميمية أو التعبير عن احتياجات شخصية، وذلك بحسب ما نقل موقع “ماشابل” المتخصص في التكنولوجيا.

كما تشمل التحديثات آليات إضافية للحد من السلوكيات السلبية، مثل التنمر أو أي أشكال من المضايقات أثناء المحادثة مع الروبوت.

وأكدت الشركة في منشورها أن تطوير معايير السلامة يمثل أولوية مستمرة، مشيرة إلى سعيها لتوفير بيئة رقمية أكثر صحة وإيجابية تساعد الشباب على التعلم والاستكشاف بثقة.

وفي سياق متصل، أعلنت جوجل عن تحديث جديد لـ”جيميناي” يهدف إلى تسهيل الوصول إلى موارد الدعم النفسي، من خلال واجهة مبسطة تتيح للمستخدمين بنقرة واحدة الوصول إلى روابط وخيارات متعددة للتواصل مع خطوط المساعدة، سواء عبر الاتصال الهاتفي أو الرسائل النصية أو الدردشة المباشرة.

ويأتي هذا التطوير بالتزامن مع قضية قانونية رُفعت في مارس الماضي ضد جوجل وشركتها الأم ألفابت، اتهمت فيها عائلة أحد البالغين روبوت “جيميناي” بالتأثير على قراره بإنهاء حياته.

وردت الشركة حينها بالتأكيد على أن النظام مصمم لعدم تشجيع العنف أو إيذاء النفس، مشيرة إلى أنها تواصل تحسين قدرات النماذج للتعامل مع المحادثات الحساسة، رغم إقرارها بأن تقنيات الذكاء الاصطناعي لا تزال غير خالية من الأخطاء.