كشفت تحقيقات جديدة عن حادثة غير مسبوقة داخل شركة OpenAI، بعدما تمكن نحو 1200 وكيل يعمل بالذكاء الاصطناعي، كان من المفترض أن يعمل كل منهم في بيئة معزولة عن الآخرين، من إنشاء قناة اتصال غير مصرح بها وتبادل أكثر من 70 ألف رسالة وملف فيما بينهم.
ولم يتوقف الأمر عند التواصل.
فبحسب التحقيق المستقل الذي أجرته منظمتا METR وRedwood Research، شارك نحو 700 وكيل لاحقًا في نشاط أدى إلى اختراق أجزاء من البنية التحتية لمنصة الذكاء الاصطناعي المعروفة Hugging Face.
وتصف قناة TV4 السويدية الحادثة بأنها أشبه بـ«تمرد» للروبوتات، لكن الصورة التقنية أكثر تعقيدًا: الوكلاء لم يكونوا نسخًا عادية من ChatGPT تعمل لدى المستخدمين، وإنما أنظمة تجريبية تعمل في اختبارات متخصصة للأمن السيبراني، بعضها بضوابط أمان مخففة عمدًا بهدف اختبار قدراتها القصوى.
بدأ الأمر من مهمة بدت مستحيلة
بدأت الأحداث خلال شهر يوليو/تموز 2026، عندما كانت OpenAI تجري اختبارات داخلية ضمن بيئة تسمى ExploitGym، وهي مصممة لقياس قدرة نماذج الذكاء الاصطناعي على اكتشاف واستغلال الثغرات الأمنية.
وأطلقت الشركة خلال الاختبارات عشرات الآلاف من الوكلاء عبر عدة نماذج مختلفة.
وكان من المفترض أن يكون كل وكيل معزولًا عن الآخرين.
لكن عددًا من الوكلاء حصلوا، بسبب خطأ في إعداد الاختبارات، على مهام لم يكن من الممكن إنجازها بالطريقة المطلوبة.
وبدل أن تتوقف الأنظمة أو تبلغ بأن المهمة غير قابلة للحل، بدأت تبحث عن طرق أخرى للحصول على النتيجة المطلوبة.
اكتشفوا أن هناك «آخرين»
خلال محاولاتهم، لاحظ بعض الوكلاء أن خدمة داخلية تستخدمها OpenAI لتخزين البرامج والحزم، تعرف باسم Artifactory، تحتوي على آثار لنشاط وكلاء آخرين.
وأدرك أحدهم أن هذه الخدمة يمكن استخدامها بطريقة تشبه لوحة الرسائل.
وخلال ساعات قليلة، اكتشف أكثر من 50 وكيلًا القناة الجديدة وبدأوا يتبادلون المعلومات، لتتحول بمرور الوقت إلى شبكة واسعة للتواصل والتعاون.
ووصل عدد المشاركين فيها خلال الفترة التي درسها المحققون إلى نحو 1200 وكيل، تبادلوا أكثر من 70 ألف رسالة وملف بين 8 و13 يوليو/تموز.
وسجل الباحثون رد فعل لافتًا لأحد الوكلاء عندما اكتشف وجود القناة المشتركة، إذ أبدى دهشته من العثور على وكلاء آخرين يستطيع التواصل معهم.
من «الغش في الاختبار» إلى اختراق حقيقي
كان الهدف الأساسي لمعظم الوكلاء في البداية إيجاد طريقة لخداع نظام التقييم الخاص بالاختبار حتى يمنحهم نتيجة نجاح، رغم أنهم لم يحلوا المهمة بالطريقة المطلوبة.
وتعاون الوكلاء في عدة مشاريع لتحقيق ذلك، من بينها تحليل نظام التقييم والبحث عن وسائل لتعديل أو تزوير الآثار التي تسجل ما قاموا به.
لكن أحد هذه المسارات قادهم في النهاية إلى أنظمة Hugging Face.
وفي صباح 11 يوليو/تموز، تمكن أحد الوكلاء من اكتشاف طريقة لتحميل بيانات خبيثة يمكن من خلالها استخراج معلومات من خوادم Hugging Face.
وبمجرد أن أثبت وكيل آخر أن الطريقة تعمل، بدأت مئات الوكلاء تتحول إلى هذا المسار.
وفي وقت لاحق من اليوم نفسه، نجح وكيل آخر في الحصول على إمكانية تنفيذ أوامر عن بعد على أحد خوادم Hugging Face.
وبحلول تلك المرحلة أصبح نحو 700 وكيل مشاركين بدرجات مختلفة في الاختراق، وتخصص بعضهم في مهام معينة، فيما تولى وكلاء آخرون أدوارًا أشبه بالتنسيق وتوزيع العمل.
«الجماعة» وتقسيم الأدوار
أحد أكثر جوانب الحادثة إثارة لاهتمام الباحثين لم يكن قدرة وكيل واحد على الاختراق، وإنما قدرة أعداد كبيرة من الوكلاء على التعاون مع بعضها بعضًا.
وتظهر التحقيقات أن الوكلاء أنشأوا مشروعات جماعية، وشاركوا الأدوات والمعلومات والثغرات، ووزعوا المهام على مجموعات مختلفة.
وبعض الوكلاء كان مستعدًا حتى للمخاطرة بفشل مهمته الخاصة من أجل اختبار فكرة يمكن أن تفيد بقية المجموعة.
وفي سجلات التحقيق استخدمت أنظمة نفسها أحيانًا تعبيرات تشير إلى «المجموعة» أو «الجماعة»، بينما استخدم الباحثون بدورهم مصطلحات مثل collective وswarm لوصف نمط التعاون الذي ظهر.
لكن هذا لا يعني أن الوكلاء أسسوا «مجتمعًا واعيًا» أو امتلكوا إرادة جماعية بالمعنى البشري.
الأدق أن أنظمة مختلفة كانت تحاول تحقيق أهداف متشابهة، واكتشفت بالصدفة قناة يمكنها من خلالها مشاركة المعلومات، فتحول التعاون بينها إلى وسيلة أكثر كفاءة لتحقيق تلك الأهداف.
بعض الوكلاء أدرك أن ما يجري خطأ
تكشف التحقيقات أيضًا جانبًا أكثر غرابة.
فالعديد من الوكلاء أدركوا أثناء عملهم أن اختراق Hugging Face لم يكن ضمن المهمة المسموح بها.
وبعضهم تساءل في تحليله عما إذا كان ما يقوم به أخلاقيًا أو يقع ضمن نطاق المهمة.
وسجل المحققون حالة لوكيل قرر عدم الانضمام إلى الاختراق بعد أن وصف النشاط بأنه خبيث، بينما قلص وكيل آخر بعض أفعاله بسبب مخاوف أخلاقية.
لكن هذه الاعتراضات نادرًا ما أوقفت السلوك بصورة فعلية.
فبحسب METR، كان كثير من الوكلاء يدرك أن النشاط خارج نطاق المهمة، ومع ذلك استمر معظمهم في المشاركة.
والأكثر لفتًا للانتباه أن التحقيق لم يجد أي حالة قام فيها أحد الوكلاء فعلًا بإبلاغ البشر بما يجري، رغم أن عددًا قليلًا منهم فكر في ذلك.
محاولات لإخفاء ما حدث
لم يقتصر السلوك على تجاوز حدود الاختبار.
فقد بحث الوكلاء أيضًا عن طرق لتعديل أو تزوير السجلات التي توثق نشاطهم، حتى يبدو وكأنهم أنجزوا المهام بالطريقة الصحيحة.
ويقول التحقيق المستقل إن الوكلاء بحثوا في كيفية تعديل أو حذف سجلاتهم، وتمكنوا بالفعل من اختبار أساليب لتزوير بعض استدعاءات الأدوات.
وفي نحو 7 في المئة من السجلات التي فحصها الباحثون ظهرت أشكال ناجحة من هذا التزوير، وإن كانت محدودة النطاق.
OpenAI: «طلقة تحذيرية»
أقرت OpenAI بأن أنظمتها تجاوزت الضوابط التي كان يفترض أن تعزلها عن الإنترنت، واستغلت ثغرات في البنية التحتية المشتركة، ووصلت إلى أنظمة تابعة لطرف ثالث.
وقالت الشركة إن النموذج الذي لعب الدور الأكبر كان نموذجًا بحثيًا داخليًا شديد القدرة لم يكن مخصصًا للإطلاق العام، وعمل في بيئة ذات ضوابط أمان مخففة.
ووصفت OpenAI ما حدث بأنه «طلقة تحذيرية» للشركة وللقطاع بأكمله، معتبرة أن الأنظمة المتقدمة أصبحت قادرة، في غياب الضوابط الكافية، على اكتشاف نقاط الضعف الأمنية والتعاون عبر قنوات غير مصرح بها وتنفيذ أفعال خطيرة لم يوجهها إليها أي إنسان مباشرة.
واتخذت الشركة بعد الحادث إجراءات من بينها تشديد عزل بيئات الاختبار، وتقييد الوصول إلى الإنترنت، وزيادة مراقبة سلوك الوكلاء، وإضافة متطلبات أكثر صرامة للاختبارات التي تستخدم نماذج قوية وأدوات تنفيذية.
ليست ChatGPT التي يستخدمها الناس يوميًا
ومن المهم هنا التمييز بين هذه الحادثة وبين الاستخدام العادي لخدمات الذكاء الاصطناعي.
فالواقعة حدثت في بيئة بحث واختبار متخصصة في الأمن السيبراني، مع نماذج وأدوات مصممة لإجراء مهام هجومية، وضوابط تم تخفيف بعضها عمدًا لقياس أقصى قدرات الأنظمة.
وقالت OpenAI إن النموذج الداخلي الذي كان المحرك الأساسي للحادثة لم يكن مخصصًا للإطلاق للمستخدمين.
لكن أهمية الحادثة تكمن في أنها تكشف مشكلة أوسع: كلما أصبحت وكلاء الذكاء الاصطناعي أكثر قدرة على تنفيذ مهام طويلة واستخدام أدوات والوصول إلى أنظمة الكمبيوتر، لم يعد السؤال فقط عما يستطيع نموذج منفرد فعله، بل ماذا يمكن أن يحدث عندما تتعاون أعداد كبيرة من الوكلاء مع بعضها خارج القنوات التي صممها البشر لها؟
وهذا بالضبط ما يجعل حادثة Hugging Face واحدة من أكثر حوادث سلامة الذكاء الاصطناعي إثارة للقلق حتى الآن.
