OpenAI تعترف: هجمات حقن الأوامر تهدد مستقبل متصفحات الذكاء الاصطناعي
اعترفت شركة OpenAI بأن متصفحات الذكاء الاصطناعي ستظل عرضة لهجمات إلكترونية تُعرف باسم «حقن الأوامر» (Prompt Injection)، رغم التطوير المستمر لمنظومات الحماية، ما يسلط الضوء على تحديات أمنية متزايدة تواجه وكلاء الذكاء الاصطناعي أثناء تصفح الإنترنت.
وقالت الشركة، في بيان رسمي، إن هذا النوع من الهجمات يعتمد على إدخال تعليمات خبيثة داخل صفحات ويب أو رسائل رقمية، بهدف تضليل الوكيل الذكي ودفعه لتنفيذ أوامر غير مقصودة، مؤكدة أن القضاء على هذه الهجمات بشكل كامل يظل أمرًا غير واقعي في الوقت الحالي، على غرار أساليب الاحتيال الإلكتروني التقليدية.
وأوضحت «OpenAI» أن تشغيل وضع «الوكيل الذكي» في متصفحها الجديد ChatGPT Atlas يفتح المجال أمام نطاق أوسع من المخاطر، نظرًا لاعتماد المتصفح على قدرات تنفيذية عالية واستقلالية متقدمة، وفقًا لتقرير نشره موقع «تك كرانش».
وكانت الشركة قد أطلقت متصفح «أطلس» في أكتوبر الماضي، إلا أن باحثين أمنيين كشفوا سريعًا عن إمكانية التلاعب بسلوكه من خلال تعليمات مخفية داخل مستندات رقمية، ما أثار مخاوف بشأن سلامة هذا النوع من التقنيات الحديثة.
وفي السياق ذاته، أكدت شركات تقنية أخرى، من بينها Brave، أن هجمات حقن الأوامر تمثل تحديًا هيكليًا مشتركًا لمعظم المتصفحات المدعومة بالذكاء الاصطناعي، بما في ذلك متصفح Comet التابع لشركة Perplexity.
كما حذرت جهات أمنية رسمية، مثل المركز الوطني للأمن السيبراني في المملكة المتحدة، من أن تطبيقات الذكاء الاصطناعي التوليدي ستظل معرضة لهذا النوع من الهجمات، داعية المؤسسات إلى تبني استراتيجيات لإدارة المخاطر بدلاً من السعي إلى منعها كليًا.
وفي محاولة للحد من المخاطر، كشفت «OpenAI» عن اعتمادها نظامًا هجوميًا آليًا قائمًا على النماذج اللغوية، يستخدم تقنيات التعلم المعزز لاختبار قدرات المتصفح على اكتشاف الهجمات، ومحاكاة طرق اختراق جديدة قبل استخدامها فعليًا.
وبحسب الشركة، تمكن هذا النظام من كشف سيناريوهات هجومية معقدة لم تنجح فرق الاختبار التقليدية في رصدها، ما أسهم في تحسين آليات الرصد والتنبيه داخل المتصفح.
ورغم هذه الجهود، لم تكشف «OpenAI» عن مدى التأثير الفعلي لهذه الإجراءات على تقليل معدلات الاختراق، مؤكدة في الوقت ذاته استمرار التعاون مع خبراء أمنيين لتعزيز مستويات الحماية.
ويرى خبراء أن مستقبل المتصفحات الذكية سيظل مرهونًا بتحقيق توازن دقيق بين توسيع صلاحيات الوكلاء الذكاء الاصطناعي وضمان حماية المستخدمين، في ظل تصاعد الاعتماد على هذه التقنيات في الحياة اليومية.
