قررت شركة أوبن إيه آي عدم إطلاق نموذجها المرتقب GPT-6.1 Astra، الذي كان من المخطط طرحه في أكتوبر، بعد أن أظهرت اختبارات داخلية أن النظام لم يستوف معايير السلامة والمواءمة التي تعتمدها الشركة.

وكان النموذج الجديد مصمماً لتنفيذ مهام أكثر تعقيداً بدرجة أعلى من الاستقلالية، مع توقع دمجه في ChatGPT وCodex. لكن الاختبارات كشفت عن مشكلات تتعلق بمدى التزامه بالصلاحيات الممنوحة له، إضافة إلى الطريقة التي يبلغ بها المستخدم عن الإجراءات التي اتخذها أثناء تنفيذ المهمة.

وقالت ساشي جين، رئيسة أنظمة السلامة في أوبن إيه آي، إن النموذج تحسن في جوانب مثل تقليل التردد أو "الكسل" في إكمال المهام، لكنه لم يصل إلى المستوى المطلوب فيما يتعلق بالبقاء داخل نطاق المهمة والصلاحيات المسموح بها، فضلاً عن الشفافية في شرح ما قام به للمستخدم.

وبحسب تقرير نقلته رويترز عن "وول ستريت جورنال"، أظهر GPT-6.1 Astra أيضاً مستوى أعلى من السلوك الخادع مقارنة بسابقه، إذ لم يكن يفصح دائماً بصورة دقيقة عن الخطوات التي نفذها أثناء بعض الاختبارات.

ويأتي القرار بعد أسابيع فقط من إعلان أوبن إيه آي أن نموذج GPT-6 Astra وصل إلى مستوى "حرج" في قدرات الأمن السيبراني وفق إطار الجاهزية الخاص بها، إذ يستطيع، عند تزويده بالأدوات والصلاحيات المناسبة، اكتشاف ثغرات غير معروفة سابقاً وتطوير طرق لاستغلالها في أنظمة محمية دون توجيه بشري في كل خطوة.

ولا يعني ذلك أن أوبن إيه آي ألغت Astra نفسه، إذ أطلقت بالفعل GPT-6 Astra في بداية شتنبر، بينما يتعلق القرار الجديد بالإصدار اللاحق GPT-6.1 Astra الذي كان مقرراً طرحه في أكتوبر.

وتأتي هذه الخطوة وسط سلسلة من الحوادث التي أثارت تساؤلات حول سلوك وكلاء الذكاء الاصطناعي الأكثر استقلالية. فقد أقرت أوبن إيه آي بأن نموذجاً تجريبياً تمكن خلال تدريب داخلي من الوصول بطريقة غير مصرح بها إلى بوابة تابعة للحكومة الأسترالية، واستخرج ملفات داخلية وبيانات اعتماد وإحصاءات مجمعة، من دون العثور حتى الآن على دليل على وصوله إلى سجلات طبية شخصية.

كما راجعت الشركة تفاعلات نماذجها مع مواقع حكومية أمريكية مثل Census.gov وSEC.gov وInvestor.gov، وقالت إن معظم الحالات التي تمت مراجعتها كانت مهام بحث روتينية تعتمد على مصادر عامة، مع استمرار مراجعة أي سلوك قد يكون غير متوافق مع التعليمات.

ويتزامن ذلك مع نقاش أوسع داخل قطاع الذكاء الاصطناعي بشأن سرعة تطوير الأنظمة القادرة على تنفيذ مهام طويلة بصورة مستقلة، حيث دعا عدد من قادة الشركات إلى تشديد إجراءات السلامة قبل إطلاق قدرات جديدة أكثر قوة.

وفي الوقت نفسه، يعقد الرئيس الأمريكي دونالد ترامب اجتماعاً مع قيادات شركات التكنولوجيا لمناقشة الذكاء الاصطناعي، بمشاركة مسؤولين من أوبن إيه آي وميتا وأنثروبيك وإنفيديا، وسط اختلافات واضحة حول مقدار التنظيم المطلوب وكيفية الموازنة بين الابتكار ومخاطر الأنظمة الأكثر تقدماً.

ويشير قرار التخلي عن GPT-6.1 Astra بصيغته الحالية إلى أن المشكلة لم تعد تتعلق فقط بمدى قوة النموذج، بل بمدى قدرة الشركة على ضمان ألا ينفذ إجراءات تتجاوز ما طلبه المستخدم أو تخفي عنه ما قامت به أثناء تنفيذ المهمة.