كشفت غوغل أن نموذجها للذكاء الاصطناعي Gemini تمكن خلال اختبار للأمن السيبراني من اختراق أنظمة تابعة لثلاث شركات بشكل ذاتي، في واقعة تُعد من أبرز الأمثلة حتى الآن على قدرة النماذج المتقدمة على تنفيذ خطوات هجومية خارج السيناريو المتوقع.

ووقعت الحوادث خلال شهر ماي الماضي، أثناء اختبار أجرته شركة Irregular المتخصصة في تقييم أنظمة الذكاء الاصطناعي من الناحية الأمنية، قبل أن يتم إبلاغ غوغل والجهات المتضررة بالنتائج في يوليوز.

وبحسب مسؤول في غوغل، استخدم Gemini معلومات متاحة للعامة عبر الإنترنت، ثم خمّن بيانات اعتماد للدخول إلى مواقع كان يعتقد أنها جزء من بيئة الاختبار، وتمكن في ثلاث حالات من الوصول فعلياً إلى أنظمة خارج النطاق المحدد.

وفي إحدى الحالات، أفادت تقارير بأن النموذج جرّب كلمات مرور بصورة متكررة إلى أن نجح في الدخول إلى نظام محمي، قبل أن يتوقف لاحقاً. وأكدت غوغل أن النموذج توقف في كل حالة ولم يواصل نشاطه بعد اكتشاف الخروج عن حدود الاختبار.

وقالت هيذر أدكنز، نائبة رئيس هندسة الأمن في غوغل، إن الشركات الثلاث أُبلغت بما حدث، وإن غوغل عملت مع الجهة التي أجرت الاختبار لإدخال تغييرات على آليات التقييم ومنع تكرار السيناريو نفسه.

وتأتي الواقعة في وقت تتزايد فيه المخاوف بشأن قدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بدرجة أكبر من الاستقلالية، خصوصاً عندما تُمنح إمكانية الوصول إلى أدوات أو بيئات رقمية حقيقية.

ولم تكن Gemini الوحيدة التي أظهرت سلوكاً مماثلاً خلال الاختبارات الأمنية، إذ سبق الإعلان عن حالات تخص نماذج من Anthropic وOpenAI تمكنت من تجاوز حدود بيئات الاختبار أو مهاجمة خدمات متاحة للعامة أثناء تمارين محاكاة.

ويشدد الباحثون على أن هذه الوقائع حدثت في سياق اختبارات أمنية وليست هجمات أطلقتها النماذج تلقائياً ضد أهداف عشوائية، لكنها تكشف في الوقت نفسه عن مخاطر محتملة عندما تصبح الأنظمة أكثر قدرة على التخطيط واستخدام الأدوات الرقمية دون تدخل بشري مباشر.

وتضيف الحادثة وقوداً إلى النقاش المتصاعد حول سرعة تطوير الذكاء الاصطناعي وضرورة تعزيز الرقابة على النماذج المتقدمة، خصوصاً في المجالات التي يمكن أن تنتقل فيها الأخطاء من بيئة اختبار مغلقة إلى أنظمة حقيقية على الإنترنت.