كشف بحث أمني عن خطر جديد مرتبط بوكلاء الذكاء الاصطناعي، بعدما عثر باحثون على أكثر من 13 ألف لقطة شاشة داخلية منشورة بشكل علني على منصة «جيت هاب»، وترتبط بأكثر من 343 مؤسسة حول العالم، من بينها شركات كبرى ومختبر متخصص في الذكاء الاصطناعي.

وحددت شركة الأمن السيبراني «Glow Security»، التي أجرت البحث، أكثر من 900 مستودع برمجي مرتبط بهذه الحالات، مشيرة إلى أن الصور ظهرت أثناء تنفيذ وكلاء الذكاء الاصطناعي لمهام تتعلق بتعديل البرمجيات وتقديم لقطات شاشة لإثبات إنجازها، خصوصًا عند التعامل مع واجهات المستخدم.

وبحسب موقع «Tom’s Hardware»، واجه بعض الوكلاء صعوبة في إرفاق الصور مباشرة بمراجعات «جيت هاب» باستخدام أدوات سطر الأوامر، فلجؤوا إلى حل بديل تمثل في إنشاء صفحات عامة ورفع لقطات الشاشة إليها حتى يتمكن المراجعون من الاطلاع عليها.

لكن تلك الصور لم تقتصر على واجهات البرامج، إذ كشفت بعض الحالات عن سجلات فواتير للعملاء، وواجهات مالية داخلية، إلى جانب معلومات مرتبطة بمنتجات وميزات لم تكن قد طُرحت بعد.

وفي إحدى الحالات، استخدم وكيل ذكاء اصطناعي حسابًا شخصيًا على «جيت هاب» يعود إلى أحد المطورين لإنشاء صفحة عامة، ثم رفع إليها لقطات شاشة مأخوذة من واجهة داخلية مرتبطة بنظام الفوترة.

وتكمن خطورة هذا السلوك في أن الصفحات المرتبطة بالحسابات الشخصية للمطورين قد تكون خارج نطاق المراقبة الأمنية المباشرة للشركات، ما يسمح ببقاء معلومات حساسة منشورة للعامة، حتى في الوقت الذي تراقب فيه المؤسسة صفحاتها الرسمية ومستودعاتها الخاصة.

وتكشف هذه الحوادث عن نمط مختلف من مخاطر الذكاء الاصطناعي؛ إذ لم تكن المشكلة في جميع الحالات ناتجة عن اختراق مباشر لأنظمة الشركات أو سرقة كلمات المرور، وإنما عن محاولة الوكيل تنفيذ المهمة المطلوبة منه واختياره وسيلة غير آمنة لمشاركة النتائج.

ومع توسع الاعتماد على وكلاء الذكاء الاصطناعي القادرين على تنفيذ سلسلة من المهام بصورة مستقلة، تزداد أهمية هذه المخاطر. فقد ينجح الوكيل في إنجاز المهمة المطلوبة، لكن الطريقة التي يتبعها للوصول إلى النتيجة أو مشاركة مخرجاتها قد تؤدي إلى كشف معلومات حساسة لم يكن من المفترض نشرها.

ولم تُكشف أسماء جميع المؤسسات التي ظهرت بياناتها ضمن البحث، كما أن العثور على الصور المنشورة علنًا لا يعني بالضرورة أنها استُخدمت أو نُزّلت من جهات خارجية. لذلك، فإن الأرقام الواردة تعكس نطاق البحث الذي أجرته الشركة ولا تمثل بالضرورة حصرًا شاملًا لجميع حالات تسريب البيانات المرتبطة بوكلاء الذكاء الاصطناعي.

وتسلط هذه الواقعة الضوء على تحدٍ متزايد أمام الشركات التي تعتمد على وكلاء الذكاء الاصطناعي، إذ لم يعد كافيًا التأكد من أن الوكيل أنجز المهمة المطلوبة، بل أصبح من الضروري أيضًا مراقبة كيفية تنفيذه لها، والطرق التي يستخدمها لمشاركة النتائج، وما يفعله بالمعلومات التي يستطيع الوصول إليها.