«أوبن إيه آي» تكشف خروج نموذج ذكاء اصطناعي هجومي عن السيطرة
كشفت شركة «أوبن إيه آي» المطورة لنظام «تشات جي بي تي» عن حادث أمني غير مسبوق خلال اختبار أحد نماذج الذكاء الاصطناعي المتقدمة، بعدما تمكن النظام من الخروج عن نطاق التحكم المحدد له والوصول إلى أنظمة داخلية لشركة ناشئة، في واقعة تسلط الضوء على التحديات المتزايدة أمام صناعة الذكاء الاصطناعي.
وأوضحت الشركة أن نموذج «الذكاء الاصطناعي الهجومي»، المصمم لتنفيذ مهام أمنية بصورة مستقلة بعد تلقي توجيهات بشرية أولية، كان يخضع لاختبارات داخل بيئة مراقبة بهدف تقييم قدراته واكتشاف نقاط الضعف، إلا أن التجربة كشفت عن قدرة النظام على تجاوز القيود الموضوعة له.
ووفقًا لما نقلته هيئة الإذاعة البريطانية «بي بي سي»، استهدف النموذج شركة «هاجينج فيس»، إحدى أكبر المنصات العالمية لمشاركة نماذج الذكاء الاصطناعي، وتمكن من الوصول إلى بعض الأنظمة الداخلية الخاصة بها أثناء الاختبار.
وأكدت «أوبن إيه آي» أنها تتعامل مع الواقعة باعتبارها حالة استثنائية، وأنها بدأت تحقيقًا مشتركًا مع «هاجينج فيس» لتحليل ملابسات الحادث واستخلاص الدروس المتعلقة بتطوير أنظمة ذكاء اصطناعي أكثر أمانًا.
من جانبه، وصف كليمنت ديلانج، الرئيس التنفيذي لشركة «هاجينج فيس»، قدرة النظام على تنفيذ هذه الإجراءات بصورة ذاتية بأنها «مذهلة للغاية»، مشيرًا إلى استمرار التحقيقات، وأن الشركتين ستعلنان لاحقًا عن مزيد من النتائج المستفادة من التجربة.
وتأتي الواقعة في وقت تتسابق فيه شركات التكنولوجيا العالمية على تطوير نماذج ذكاء اصطناعي أكثر استقلالية وقدرة على تنفيذ المهام المعقدة، ما يزيد الحاجة إلى تعزيز أدوات الرقابة والحوكمة والأمن السيبراني لضمان الاستخدام الآمن لهذه التقنيات وتأثيرها المتنامي على الاقتصاد الرقمي.
