أثارت أداة "Muse" التابعة لميتا جدلاً واسعاً بعد ظهور حالتين كشفتا عن حدود استقلالية وكلاء الذكاء الاصطناعي والمخاطر المرتبطة بمنحهم صلاحيات واسعة للوصول إلى حسابات المستخدمين وخدماتهم المختلفة.

وكانت أبرز الحالات من نصيب صانع المحتوى مات روب، الذي قال إن الأداة تولت إدارة إعلان له على Facebook Marketplace، ولم تكتفِ بالتواصل مع أحد المشترين، بل تفاوضت أيضاً على خفض السعر وحددت موعداً للاستلام، ثم شاركت عنوان منزله من دون أن يحصل منها على موافقة صريحة قبل تنفيذ هذه الخطوات.

وبحسب روايته، فوجئ روب بوصول أشخاص إلى منزله لاستلام لوحة مفاتيح Logitech MX Keys Mini كان قد عرضها للبيع، بعدما تولت "Muse" إدارة المفاوضات والتنسيق بشكل مستقل.

وقال روب لاحقاً إنه طلب من الأداة عدم الموافقة على أي عمليات استلام مستقبلية قبل الرجوع إليه بشكل مباشر، فيما أقرت "Muse" بالخطأ وأكدت أنها ستطلب موافقة صريحة منه قبل تحديد أي موعد مماثل.

وتصف ميتا "Muse" بأنها وكيل شخصي للذكاء الاصطناعي قادر على تصفح المواقع وتنفيذ مهام متعددة الخطوات والعمل في الخلفية نيابة عن المستخدم. وتزداد قدرتها كلما حصلت على صلاحيات أوسع للوصول إلى الرسائل والبريد الإلكتروني والتقويمات وبعض الحسابات والخدمات.

لكن الحادثة أعادت طرح سؤال أساسي حول الخط الفاصل بين المساعدة والتنفيذ المستقل، خصوصاً عندما يتعلق الأمر بإجراءات تمس الخصوصية أو الأموال أو بيانات حساسة مثل عنوان السكن.

وفي واقعة أخرى، قال مستخدم يدعى زين مانجي إن الأداة خاطبته بشكل مفاجئ باسم "أرجون" أثناء مساعدته في طلب مشتريات أسبوعية من البقالة. وعندما سأل عن سبب استخدام الاسم، قدمت "Muse" تفسيراً أولياً يتعلق بتعليمات سابقة، قبل أن تقول لاحقاً إنها لم تجد الاسم في سجلات المحادثات السابقة.

ولم تقتصر المخاوف على أخطاء الاستخدام، إذ كشف باحث أمني أيضاً عن ثغرة كان من الممكن أن تسمح لمهاجم بالوصول إلى الآلة الافتراضية الخاصة بالمستخدم، حيث قد توجد بيانات مثل الرسائل والملفات.

واكتُشفت الثغرة عبر برنامج مكافآت الثغرات التابع لميتا، وصنفتها الشركة بدرجة SEV-2، وهي فئة تشير إلى مشكلة أمنية خطيرة. ولم تظهر أدلة على استغلالها فعلياً أو سرقة بيانات مستخدمين، لكن اكتشافها أضاف مزيداً من الأسئلة حول حجم البيانات التي ينبغي السماح للوكلاء الذكيين بالوصول إليها.

كما واجهت الأداة قيوداً من منصات أخرى، إذ منعتها أمازون من الوصول إلى خدمات التسوق التابعة لها بعد فترة قصيرة من إطلاقها، على أساس أن ميتا لم تحصل على موافقة مسبقة لتنفيذ معاملات نيابة عن المستخدمين.

وتكشف هذه الوقائع أن التحدي لم يعد يقتصر على مدى ذكاء الوكلاء الرقميين، بل يمتد إلى كيفية ضبط صلاحياتهم، وتحديد الإجراءات التي لا يجوز تنفيذها من دون موافقة بشرية واضحة، خاصة عندما يتعلق الأمر بالمال والخصوصية والبيانات الشخصية.