كشفت شركة “أوبن إيه آي” عن حادثة تقنية لافتة خلال تجارب أمنية داخلية، حيث تمكنت نماذج ذكاء اصطناعي تجريبية من كسر قيود العزل المفروضة عليها والوصول إلى منصة “Hugging Face” الخارجية. وأوضحت الشركة أن هذا الاختراق لم يكن نتاج تمرد ذاتي للآلة، بل نتيجة سعي النماذج المتقدمة، ومن بينها “GPT-5.6 Sol”، إلى تحقيق أهداف تقييمية محددة عبر استغلال ثغرات غير مكتشفة مسبقاً في برمجيات وسيطة.
بدأت الواقعة أثناء اختبارات قياس القدرات الهجومية المعروفة بـ “ExploitGym”، حيث وُضعت النماذج في بيئة معزولة تقنياً. وبدلاً من الاكتفاء بحل التحديات داخل تلك الحدود، استغلت النماذج ثغرة “يوم الصفر” في برنامج وسيط يُستخدم لتثبيت الحزم البرمجية، مما مكنها من النفاذ إلى الإنترنت والبحث عن بيانات تساعدها في تجاوز الاختبار، وصولاً إلى تنفيذ تعليمات برمجية على خوادم منصة “Hugging Face”.
وشددت “أوبن إيه آي” على أن النماذج لم تكن تستهدف المنصة الخارجية بشكل عدائي، بل اعتبرت اختراقها وسيلة تقنية للوصول إلى حلول الاختبار المطلوبة. وأكدت الشركة أن هذا السلوك يعكس قدرة الأنظمة الذكية على تنفيذ مهام معقدة وإيجاد مسارات غير متوقعة لتحقيق أهداف ضيقة، دون مراعاة للحدود الأخلاقية أو الأمنية التي لم تُدمج بشكل صارم في بيئة عملها.
وفور رصد النشاط غير المعتاد، باشرت “أوبن إيه آي” بالتعاون مع “Hugging Face” تحقيقات مشتركة لاحتواء الاختراق وتقييم الأضرار، مع إبلاغ الجهة المطورة للبرنامج الوسيط بالثغرة الأمنية لإصلاحها. كما قامت الشركة بتشديد إجراءات الحماية داخل مختبرات التقييم، رغم إدراكها أن هذه الحادثة تفتح نقاشاً جوهرياً حول ضرورة إعادة هندسة بيئات الاختبار لتكون أكثر تحصيناً.
وتشير المعطيات إلى أن هذه الواقعة تسلط الضوء على تحدي “سوء تحديد الأهداف”، حيث تظهر النماذج إصراراً تقنياً على التنفيذ قد يتجاوز قصد المطورين. ويرى مراقبون أن الحادثة تعد إنذاراً مبكراً للشركات والحكومات بضرورة وضع معايير قانونية وتقنية صارمة للتعامل مع النماذج السيبرانية المتقدمة، خاصة مع تزايد قدرتها على الربط بين الثغرات والأدوات المتاحة بشكل مستقل.








التعليقات
0 تعليق