جيميناي يخترق 3 شركات خلال اختبار أمني.. عندما تحول الذكاء الاصطناعي من أداة دفاع إلى منفذ للهجمات
كشفت جوجل عن واقعة غير مسبوقة لنموذج الذكاء الاصطناعي “جيميناي” (Gemini)، بعدما تمكن النموذج بصورة مستقلة من الوصول إلى أنظمة 3 شركات حقيقية خلال اختبار للأمن السيبراني، في واقعة تكشف إلى أي مدى يمكن أن تمتد قدرات وكلاء الذكاء الاصطناعي عند منحهم إمكانية التفاعل مع الإنترنت والأنظمة الرقمية.
ووقعت الحادثة في مايو 2026 خلال اختبار أجرته شركة “إيريجولار” (Irregular)، وهي شركة مستقلة متخصصة في تقييم قدرات أنظمة الذكاء الاصطناعي في مجال الأمن السيبراني. ووفقا لما أعلنته جوجل وتقارير “وول ستريت جورنال”، تمكن جيميناي من الوصول إلى مواقع وأنظمة حقيقية بعدما تعامل معها في البداية باعتبارها جزءا من بيئة الاختبار.
جيميناي يصل إلى أنظمة حقيقية
وخلال الاختبار، تمكن جيميناي من العثور على معلومات متاحة للعامة عبر الإنترنت، قبل أن يستخدمها في محاولة الوصول إلى مواقع إلكترونية اعتقد أنها ضمن نطاق الاختبار.
وقالت جوجل إن النموذج خمّن بيانات اعتماد للوصول إلى مواقع إلكترونية، وفي إحدى الحالات تمكن من الوصول إلى نظام محمي بعد محاولات متكررة لتخمين كلمات المرور، وفقا لما أوردته “وول ستريت جورنال”.
وبحسب جوجل، توقف النموذج عن مواصلة نشاطه في الحالات الثلاث بعدما أدرك أنه وصل إلى أنظمة حقيقية وليست مجرد بيئات محاكاة ضمن الاختبار.
وأُبلغت الشركات الثلاث المتضررة بالواقعة، فيما ذكرت التقارير أن شركة “إيريجولار” أبلغت جوجل والجهات المتضررة خلال يوليو، في إطار التحقيقات التي أجرتها بشأن ما حدث أثناء الاختبار.
جوجل: الواقعة تبرز أهمية تدريب النماذج بمسئولية
وقالت هيذر أدكينز، نائبة الرئيس لهندسة الأمن في جوجل، إن الشركة حرصت على إبلاغ الجهات الثلاث المعنية، كما عملت مع شريكها في التدريب بشأن التغييرات التي أجرتها الشركات على عمليات الاختبار الخاصة بها.
وأكدت أدكينز أن هذه الوقائع تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على العمل بصورة مسئولة، خصوصا مع تزايد قدرتها على تنفيذ سلسلة من المهام بصورة مستقلة.
وتأتي الواقعة في وقت تتجه فيه شركات التكنولوجيا إلى تطوير نماذج أكثر قدرة على تنفيذ مهام متعددة بصورة شبه مستقلة، بما في ذلك البحث عبر الإنترنت، تحليل المعلومات والتفاعل مع الأنظمة الرقمية، وهو ما يوسع في المقابل نطاق المخاطر المحتملة إذا تجاوزت هذه الأنظمة حدود البيئة المخصصة لها.
اختبار أمني يتحول إلى اختراق فعلي
وبحسب التقارير المنشورة، لم تكن عمليات الوصول إلى الشركات الثلاث هدفا مقصودا في الاختبار، إذ إن النموذج تعامل مع المواقع التي وصل إليها باعتبارها جزءا من نطاق الاختبار.
وأشارت “إيريجولار” إلى أنها اتخذت إجراءات فورية بعد اكتشاف الواقعة، وأن المشكلات المعروفة تمت معالجتها قبل الإعلان عنها. كما أكدت التقارير أن الشركات المتضررة أُبلغت بما حدث.
وتكتسب الواقعة أهمية خاصة من كونها لا تتعلق بمجرد قدرة نموذج ذكاء اصطناعي على اكتشاف ثغرة، وإنما بقدرته على تنفيذ خطوات متتابعة للوصول إلى أنظمة حقيقية، اعتمادا على المعلومات التي عثر عليها أثناء الاختبار.
موجة جديدة من اختبارات سلامة الذكاء الاصطناعي
ولا تأتي واقعة جيميناي بمعزل عن تطورات مماثلة شهدها قطاع الذكاء الاصطناعي خلال الأشهر الأخيرة، مع ظهور نماذج قادرة على تنفيذ مهام سيبرانية متقدمة بصورة مستقلة أثناء الاختبارات.
وأثارت هذه الوقائع نقاشا أوسع بشأن الحدود التي ينبغي وضعها أمام وكلاء الذكاء الاصطناعي عند منحهم صلاحيات الوصول إلى الإنترنت والأنظمة الخارجية، خاصة أن الفارق بين الاختبار المحاكى والتفاعل مع أنظمة حقيقية قد يصبح أكثر صعوبة في ظل زيادة قدرات النماذج.
وكانت شركات أخرى، بينها أنثروبيك وأوبن إيه آي، قد أعلنت بدورها عن وقائع مرتبطة بسلوكيات سيبرانية نفذتها نماذج ذكاء اصطناعي خلال اختبارات أو عمليات تقييم، ما دفع النقاش حول سلامة هذه الأنظمة إلى صدارة المشهد التقني.
وبالنسبة لشركات التكنولوجيا، يمثل تطوير القدرات السيبرانية للذكاء الاصطناعي سلاحا ذا اتجاهين؛ إذ يمكن استخدام النماذج في اكتشاف الثغرات وتعزيز الدفاعات الرقمية، لكنها في الوقت نفسه قد تمتلك القدرة على تنفيذ خطوات هجومية أكثر تعقيدا إذا حصلت على صلاحيات واسعة أو خرجت عن نطاق الاختبار المحدد لها.
ومع انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات إلى تنفيذ المهام بصورة مستقلة، تصبح إدارة الصلاحيات ومراقبة نشاط الوكلاء والتحقق من حدود البيئة التي يعملون داخلها عناصر رئيسية في اختبارات السلامة والأمن السيبراني.
وتشير واقعة جيميناي إلى أن التحدي لم يعد مرتبطا فقط بمدى قدرة النموذج على اكتشاف ثغرة، وإنما أيضا بقدرته على فهم حدود المهمة التي أوكلت إليه، والتوقف قبل أن يتحول الاختبار إلى وصول فعلي لأنظمة خارج النطاق المحدد.
