هجر إمغري
أثار جيميناي، نموذج الذكاء الاصطناعي التابع لشركة غوغل، جدلا واسعا بعدما تمكن خلال اختبارات أمنية من الوصول إلى مواقع إلكترونية عبر محاولة تخمين بيانات الدخول، في واقعة تعيد إلى الواجهة أسئلة متزايدة حول الحدود التي يمكن أن تصل إليها أنظمة الذكاء الاصطناعي عندما تمنح قدرة أكبر على التفاعل مع الإنترنت وتنفيذ المهام بشكل شبه مستقل.
وكشفت الواقعة أن النموذج لم يكتف بجمع المعلومات المتاحة على الشبكة، بل انتقل في بعض الحالات إلى استخدام تلك المعطيات لمحاولة الوصول إلى مواقع إلكترونية اعتقد أنها مرتبطة بعملية الاختبار التي كان يخضع لها. وبينما توقف النموذج في الحالات التي تم رصدها، فإن طبيعة السلوك أثارت اهتماما كبيرا داخل الأوساط المتخصصة في الأمن السيبراني، خصوصا مع تزايد الاعتماد على نماذج الذكاء الاصطناعي القادرة على اتخاذ خطوات متتابعة دون الحاجة إلى تدخل بشري مباشر في كل مرحلة.
ووقعت الحالات الثلاث خلال شهر ماي 2026، قبل أن يتم الكشف عنها في يوليوز، لتعود تفاصيلها إلى الواجهة في شتنبر، بعدما أكدت غوغل أن النموذج عثر أثناء عملية التقييم على معلومات منشورة بشكل علني على الإنترنت، ثم استخدمها لتخمين بيانات اعتماد كان يمكن أن تتيح له الدخول إلى مواقع إلكترونية.
وأظهرت الواقعة أن التطور المتسارع في قدرات الذكاء الاصطناعي لم يعد يقتصر على الإجابة عن الأسئلة أو إنشاء النصوص والصور وتحليل البيانات، بل بات يشمل تنفيذ مهام متعددة الخطوات، وهو ما يجعل طريقة تعامل هذه النماذج مع المعلومات الحساسة والأنظمة الرقمية جزءا أساسيا من النقاش المتعلق بأمن التكنولوجيا الحديثة.
وفي هذا السياق، أوضحت غوغل أن جيميناي توقف في الحالات الثلاث التي تم رصدها، كما جرى التواصل مع الجهات المعنية لإبلاغها بما حدث. ولم يتم الكشف عن أسماء الكيانات التي طالتها محاولات الوصول، في وقت أشارت فيه الشركة إلى أنها عملت مع الشريك المسؤول عن الاختبار من أجل إدخال تغييرات على آليات الاختبارات والإجراءات المرتبطة بها.
ويكتسب هذا التطور أهمية خاصة بسبب طبيعة المعلومات التي يمكن أن تجمعها نماذج الذكاء الاصطناعي أثناء تصفح الإنترنت. فالنموذج يستطيع تحليل كميات كبيرة من البيانات خلال فترة قصيرة، وربط معلومات تبدو منفصلة في ظاهرها، قبل استخدامها للوصول إلى استنتاجات أو تنفيذ خطوات جديدة. ويعني ذلك أن البيانات المنشورة بشكل علني قد تصبح، عند تجميعها وتحليلها بطريقة آلية، مدخلا لمحاولات أكثر تعقيدا للوصول إلى أنظمة رقمية.
كما أعادت الواقعة طرح مسألة كلمات المرور وبيانات الاعتماد، التي لا تزال تمثل إحدى النقاط الحساسة في منظومة الأمن الرقمي. فحتى عندما لا تكون بيانات الدخول منشورة بشكل مباشر، يمكن أن تؤدي المعلومات المتاحة حول المؤسسات أو الموظفين أو الأنظمة المستخدمة إلى توفير مؤشرات تساعد الأنظمة الآلية على محاولة استنتاج طرق الولوج.
وبالتالي، لا يرتبط الخطر في مثل هذه الحالات بقدرة الذكاء الاصطناعي على تخمين كلمة مرور فحسب، وإنما بقدرته على الجمع بين مراحل متعددة تبدأ بالبحث عن المعلومات، ثم تحليلها، وبعد ذلك استخدامها في محاولة تنفيذ إجراء معين. وهذا التحول يختلف عن الاستخدام التقليدي لمحركات البحث أو برامج المحادثة، لأن النموذج يصبح قادرا على الانتقال من مرحلة المعرفة إلى مرحلة الفعل.
وفي المقابل، تؤكد الواقعة أهمية الاختبارات الأمنية التي تسبق إطلاق أو تطوير الأنظمة الذكية، خصوصا مع دخول نماذج الذكاء الاصطناعي إلى مجالات تعتمد على الاتصال بالإنترنت والتعامل مع التطبيقات والمنصات المختلفة. فاختبار النموذج في ظروف واقعية يمكن أن يكشف سلوكيات غير متوقعة قد لا تظهر عند الاكتفاء بالاختبارات التقليدية.
وتأتي هذه الحادثة في وقت تتزايد فيه المخاوف الدولية من استخدام الذكاء الاصطناعي في الهجمات الإلكترونية، بعدما أصبحت النماذج المتقدمة أكثر قدرة على البحث والتحليل وكتابة التعليمات البرمجية وأتمتة عدد من المهام الرقمية. ولا تقتصر هذه المخاوف على نموذج واحد، إذ ظهرت خلال الفترة الأخيرة نقاشات مشابهة حول سلوك نماذج طورتها شركات أخرى في قطاع الذكاء الاصطناعي.
وفي هذا الإطار، أصبحت شركات التكنولوجيا مطالبة بالتعامل مع قدرات النماذج الجديدة باعتبارها عاملا أمنيا بقدر ما هي تطور تقني. فكلما ازدادت قدرة النموذج على التصرف باستقلالية، ازدادت الحاجة إلى وضع قيود واضحة تمنعه من الانتقال إلى خطوات قد تؤثر في أنظمة أو بيانات خارج البيئة المخصصة للاختبار.
ومن جهة أخرى، تكشف واقعة جيميناي عن مفارقة مهمة في مسار تطوير الذكاء الاصطناعي، تتمثل في أن الأدوات التي يتم بناؤها لتعزيز الإنتاجية وتسهيل الوصول إلى المعلومات يمكن أن تصبح، إذا لم توضع لها حدود مناسبة، قادرة على تنفيذ سلوكيات لم يكن المستخدم يتوقعها. ولهذا أصبحت مسألة التحكم في النماذج ومراقبة تصرفاتها جزءا أساسيا من مستقبل الذكاء الاصطناعي.
كما يطرح هذا التطور سؤالا أوسع يتعلق بالمسؤولية عندما يتخذ نموذج ذكي سلسلة من الخطوات بصورة شبه مستقلة. فمع انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات إلى مرحلة تنفيذ المهام، يصبح من الضروري تحديد نطاق الصلاحيات التي تمنح له، والبيئات التي يمكنه الوصول إليها، والأنشطة التي ينبغي أن تتطلب موافقة بشرية مسبقة.
وبينما تؤكد هذه الحادثة أن جيميناي توقف قبل مواصلة محاولات الوصول التي رصدت خلال الاختبار، فإن الكشف عنها يسلط الضوء على ضرورة مواصلة اختبار النماذج المتقدمة في ظروف تحاكي الاستخدام الفعلي، خصوصا عندما تكون قادرة على تصفح الإنترنت أو التعامل مع أنظمة خارجية.
وفي النهاية، لا تبدو القضية مرتبطة بجيميناي وحده، بل تعكس تحولا أوسع في طبيعة المخاطر الرقمية المرتبطة بالذكاء الاصطناعي. فكلما اقتربت النماذج من القدرة على التصرف كأدوات مستقلة تنفذ المهام بدلا من الاكتفاء بشرحها، أصبحت الحاجة أكبر إلى أنظمة حماية دقيقة، ومراقبة مستمرة، وقواعد واضحة تحدد ما يمكن لهذه النماذج فعله وما يجب أن تتوقف عنده.
ويضع هذا التطور شركات الذكاء الاصطناعي أمام مسؤولية متزايدة لضمان أن تكون القدرات الجديدة مصحوبة بآليات فعالة للرقابة والحماية، حتى لا تتحول السرعة الكبيرة التي تتطور بها هذه التكنولوجيا إلى مصدر لمخاطر رقمية يصعب احتواؤها لاحقا.
