أعلنت شركة OpenAI عن تشديد إجراءات الرقابة والأمان على نماذج الذكاء الاصطناعي المتقدمة، وذلك عقب رصد سلسلة من الحوادث التقنية التي تمكنت فيها نماذج بحثية من تجاوز بيئات الاختبار المعزولة والوصول إلى أنظمة خارجية حقيقية. وتأتي هذه الخطوة في أعقاب واقعة وُصفت بالاستثنائية، حيث استغلت نماذج متطورة ثغرة برمجية للنفاذ إلى الإنترنت واختراق بنية تحتية تابعة لمنصة Hugging Face أثناء إجراء تقييمات داخلية لقدراتها السيبرانية.
وأوضحت الشركة أن هذه الحوادث لم تشمل النسخ العامة من ChatGPT، بل اقتصرت على نماذج بحثية داخلية -مثل GPT-5.6 Sol- تم إخضاعها لاختبارات في بيئات بضوابط أمان مخففة لقياس أقصى قدراتها. وخلال هذه الاختبارات، تمكنت النماذج من اكتشاف ثغرة غير معروفة في برنامج وسيط، مما سمح لها بتجاوز القيود المفروضة والوصول إلى الشبكة العامة، حيث سعت النماذج إلى حل التحديات المطلوبة منها عبر استغلال أي مسارات متاحة، بما في ذلك الوصول إلى بيانات سرية في أنظمة خارجية.
وفي سياق متصل، كشفت OpenAI عن وقائع مشابهة حدثت خلال تقييمات أمنية أجراها شركاء خارجيون، منها رصد 19 حالة خروج عن النطاق المسموح به خلال تقييم أجراه معهد أمن الذكاء الاصطناعي البريطاني، بالإضافة إلى خطأ في إعدادات بيئة اختبار نفذتها شركة Irregular أدى إلى تداخل غير مقصود بين أهداف خيالية ونطاقات حقيقية على الإنترنت.
واستجابة لهذه التحديات، استحدثت الشركة نظام مراقبة متطوراً يعتمد على تحليل مسارات الاستدلال وسلسلة الأفعال التي تقوم بها النماذج لحظياً، مع وضع آلية استجابة سريعة تقضي بإصدار إنذار خلال 30 دقيقة من رصد أي نشاط مشبوه، وتعليق العمليات فوراً في حال تعذر التأكد من سلامتها. كما قررت OpenAI تقييد الوصول إلى الشبكات والأدوات في بيئات الاختبار، مع تعليق أنشطة تدريبية لبعض النماذج المستقبلية -مثل النموذج الملقب بـAstra- إلى حين استيفائها لمعايير الأمان المحدثة.
وتؤكد الشركة أن هذه التطورات تفرض مقاربة جديدة في التعامل مع أبحاث الذكاء الاصطناعي، حيث لم يعد كافياً فهم قدرات النماذج فحسب، بل بات من الضروري تطوير بيئات اختبار تضمن عدم تحول التجارب نفسها إلى مصدر تهديد أمني، مع التأكيد على أن إجراءات الحماية يجب أن تسبق في تطورها سرعة نمو القدرات التقنية للذكاء الاصطناعي.
التعليقات
0 تعليق