بدأت مجموعات قرصنة متقدمة في استغلال آليات الأمان المدمجة داخل نماذج الذكاء الاصطناعي بطريقة معاكسة للهدف الذي صُممت من أجله، عبر دفع هذه النماذج إلى رفض تحليل ملفات خبيثة بدلاً من كشفها.

ويعتمد الأسلوب على إدراج كلمات وعبارات شديدة الحساسية داخل الشيفرات البرمجية، مثل مصطلحات مرتبطة بالأسلحة أو المواد المحظورة أو الصراعات المسلحة، بحيث تعتبرها نماذج الذكاء الاصطناعي محتوى خطيراً وتوقف تحليلها تلقائياً.

وبحسب تقارير متخصصة في الأمن السيبراني، لجأت مجموعات قرصنة روسية إلى هذا النوع من التحايل، مستفيدة من صعوبة بعض النماذج في التمييز بين السياق الدفاعي المشروع والسياق الضار.

وتكمن المشكلة في أن النماذج اللغوية العامة تطبق غالباً قواعد الأمان نفسها سواء كان النص جزءاً من محاولة هجومية، أو جزءاً من ملف يجري فحصه من أجل الحماية والتحقيق الجنائي الرقمي.

وبذلك يمكن للمهاجم أن يحول "آلية الرفض" نفسها إلى وسيلة دفاع عن البرمجية الخبيثة، إذ يؤدي وجود عبارات حساسة داخل الكود إلى تعطيل أداة التحليل أو دفعها إلى الامتناع عن مواصلة الفحص.

ويرى باحثون أن هذا الأسلوب يندرج ضمن موجة أوسع من تقنيات التحايل على أنظمة الذكاء الاصطناعي، إلى جانب هجمات كسر الحماية، وتسميم البيانات، والتلاعب بالمدخلات بهدف تغيير حكم النموذج على السلوك المشبوه.

ولا يعني ذلك أن كل نظام ذكاء اصطناعي يمكن التحايل عليه بهذه الطريقة، لكن المشكلة تكشف ثغرة تصميمية مهمة عندما تُستخدم نماذج عامة في مهام أمنية حساسة من دون تكييف قواعدها مع طبيعة العمل الدفاعي.

ولهذا يدعو خبراء إلى الفصل بين نماذج الاستخدام العام والأنظمة المخصصة للأمن السيبراني، بحيث تتمكن أدوات الفحص والتحقيق الرقمي من تحليل محتوى حساس أو خطير من دون أن تتوقف تلقائياً لمجرد وجود كلمات محظورة داخله.

كما تبرز الحاجة إلى أن تعتمد هذه الأنظمة على فهم السياق والغرض من التحليل، بدلاً من الاكتفاء بالتعرف على كلمات أو موضوعات حساسة ورفض التعامل معها آلياً.

وتكشف هذه التطورات أن المواجهة السيبرانية لم تعد تدور فقط حول اختراق البرامج أو سرقة البيانات، بل أصبحت تشمل أيضاً استغلال طريقة تفكير أنظمة الذكاء الاصطناعي نفسها وتحويل قواعد الحماية إلى نقطة ضعف قابلة للاستهداف.