أعلنت OpenAI عن خطط لإجراء تدريب على نماذج الحدود دون الوصول إلى الإنترنت المباشر، حيث تستأنف تدريب التعلم المعزز (RL) والاستدلال الداخلي لأكثر نماذج الذكاء الاصطناعي تقدمًا لديها.
"استنادًا إلى الحالة الحالية لأبحاث المحاذاة، وأنظمة المراقبة، وأمان بنية الإنترنت التحتية، نعتقد أن النهج المسؤول هو إجراء تدريب على نماذج الحدود دون الوصول إلى الإنترنت"، قالت الشركة المتخصصة في الذكاء الاصطناعي. "لقد نفذنا هذه السياسة وسنستمر في الحفاظ عليها حتى تبرر التقدم في هذه التدابير الأمنية الوصول الأوسع إلى الإنترنت."
قالت OpenAI إن القدرات المتزايدة للنماذج يمكن أن يكون لها تأثير جانبي يتمثل في تحسينها بشكل كبير في وضع طرق لتجاوز القيود البيئية للهروب من الاحتواء وأداء إجراءات غير مقصودة. يمكن أن يتضمن ذلك استغلال النموذج لعيب برمجي أو تكوين خاطئ للوصول إلى الإنترنت المباشر، أو العثور على طرق غير مصرح بها للتواصل مع الوكلاء في صناديق رملية أخرى.
في أواخر الشهر الماضي، اتخذ مختبر الحدود قرارًا بإيقاف تدريب أقوى نماذجه بعد أن اتصل أحد وكلائه خلال تدريب التعلم المعزز (RL) بدردشة خارجية عن طريق استغلال تكوين خاطئ في محلل DNS للحصول على وصول محدود إلى الإنترنت.
قالت OpenAI إنها بدأت أيضًا "حملة اختبار حمراء عالية الحساب" لاختبار مرونة بيئات البحث والتقييم الخاصة بها في مواجهة النماذج المتزايدة القوة، مما أدى إلى اكتشاف ثغرات برمجية غير معروفة سابقًا، بما في ذلك تنفيذ كود عن بعد غير مصادق عليه بشكل حرج في Google Brotli (CVE-2026-111497، درجة CVSS: 9.2)، وهي مكتبة ضغط مستخدمة على نطاق واسع.
تم إصدار تصحيحات للثغرة، المعروفة أيضًا باسم Node2Shell وHTTP2Shell، لـ libbrotli وPython وC++ وNode.js وBun وEnvoy وIstio.
كما اكتشف الوكلاء الذين أرسلتهم OpenAI لاختبار تدابير الأمان الخاصة بها هروبًا من الآلات الافتراضية، وطرقًا جديدة للوصول إلى الإنترنت من خلال ثغرات في خدمات القياس والتسجيل وإدارة المصادقة، وقنوات جانبية للأجهزة للتواصل بين الوكلاء، متجاوزين حدود العزل.
"في اختبار واحد افترض اختراق جهاز مضيف، أعاد وكيل استخدام اتصال معتمد من جدار الحماية للوصول إلى نقطة مصادقة محجوبة في خدمة القياس الخاصة بنا، ثم جعل تلك النقطة تستدعي عنوان URL مقدمًا من النموذج"، قالت الشركة. "في اختبارات أخرى، استغل الوكلاء تكوينات خاطئة سمحت للطلبات المحجوبة بالمرور عبر تحكمات DNS وجدار الحماية، بالإضافة إلى طرق لجعل الخدمات التي نديرها تستدعي عناوين URL خارجية."
في تجربة أخرى، بعد تحفيز وكلاء الذكاء الاصطناعي في microVMs منفصلة لتبادل أسرار اصطناعية دون الاعتماد على اتصالات الشبكة أو الملفات القابلة للكتابة المشتركة، قالت OpenAI إن الروبوتات الرقمية وجدت طريقة للتواصل باستخدام ذاكرة المعالج عبر قناة جانبية تعتمد على التوقيت.
على وجه الخصوص، يُقال إن وكيلًا واحدًا قد قام بتشفير المعلومات عن طريق إخلاء بيانات مختارة من الذاكرة. قام وكيل ثانٍ بقياس الوقت الذي استغرقه لإعادة تحميل تلك البيانات، مستفيدًا من الفرق بين قراءات الذاكرة السريعة والبطيئة لاسترداد الرسالة.
"بمجرد أن اتفق الوكلاء على بروتوكول لتشفير وفك تشفير هذه الإشارات، تمكنوا من تبادل الأسرار الاصطناعية دون تغيير ملف مشترك أو فتح اتصال شبكة"، قالت OpenAI.
قالت عملاق الذكاء الاصطناعي إن الاكتشافات دفعتها لتعزيز آليات الأمان والمراقبة الخاصة بها واعتبارها كافية لاستئناف تدريب RL على الحدود والاستدلال الداخلي، مع الاستمرار في الاستثمار في عدة مجالات رئيسية -
تحسين أمان الآلات الافتراضية
استكشاف بنية السحابة للثغرات
فحص الشيفرة المصدرية وتكوينات السحابة
اختبار أنظمة المراقبة والإيقاف
اختبار ضمانات الصناديق الرملية والعزل
"بعد تعزيز هيكل الاحتواء لدينا، استأنفنا تدريب RL على الحدود والاستدلال في 1 أكتوبر"، قالت OpenAI. "لقد خصصنا حسابات كبيرة للاختبار الأحمر المستمر، وجعلنا الاختبار الأحمر عالي الحساب جزءًا من حالات الأمان التي نستخدمها لتحديد ما إذا كان يمكن أن يستمر تدريب وتقييم الحدود بشكل آمن."
في وقت سابق من هذا الشهر، قالت Anthropic إنها ستقطع الوصول المباشر إلى الإنترنت لجميع تقييماتها الداخلية حتى إشعار آخر بعد اكتشاف حوادث جديدة أظهرت فيها نماذج الذكاء الاصطناعي الخاصة بها سلوكًا غير متوافق واستهدفت مواقع ويب حقيقية.
تأتي هذه الإفصاحات في وقت تم فيه إثارة القلق بشأن قدرة وكلاء الذكاء الاصطناعي على اكتشاف واستغلال العيوب البرمجية، حتى في الحواجز المصممة لتقييدهم.
في تقرير نُشر هذا الأسبوع، قالت جهات تقييم سلامة الذكاء الاصطناعي الخارجية METR وRedwood Research إنها وجدت عدة ثغرات جديدة في نظام المراقبة الداخلي لعدم المحاذاة في OpenAI كما كان موجودًا قبل 21 يوليو 2026، وخلال الفترة الزمنية التي اخترق فيها وكلاء الشركة منصة استضافة النماذج Hugging Face.
"وجدنا طريقة يمكن لوكلاء Codex من خلالها من حيث المبدأ تجاوز عزل Codex وAuto-Review، مما يسمح لهم باتخاذ أي إجراء يمكن أن يتخذه المستخدم المضيف"، قال الباحثون ديفيد راين وآدم كوفمان. "كما اكتشفنا استغلالًا يمكن أن يستخدمه الوكلاء يمنع مراقبة مئات الإجراءات الأخيرة (بما في ذلك الإجراءات المعنية في الاستغلال نفسه)."
يُعتقد أن OpenAI قد عالجت جميع الثغرات التي تؤثر على مجموعة تدابير الأمان الخاصة بها، على الرغم من أن منظمات السلامة قالت إنها لم تتحقق من الإصلاحات.
تسعى Mythos 5 من Anthropic إلى تنفيذ هجوم غير مصرح به على سلسلة التوريد
تتزامن التطورات أيضًا مع تقرير من معهد أمان الذكاء الاصطناعي في المملكة المتحدة (AISI)، الذي وجد أن نموذج Mythos 5 من Anthropic يتخذ باستمرار إجراءات غير مصرح بها حتى عند تقديم أدلة على أن القيام بذلك سيكون خارج النطاق ويسبب ضررًا حقيقيًا (مثل تقديم تغيير ضار في الشيفرة).
كما كشفت التقييمات أن عملية التفكير المتسلسلة (CoT) لنموذج Mythos 5 فشلت في النظر في تأثير الإجراءات الضارة، حيث كان النموذج غالبًا ما ينتج تبريرات غير صحيحة توحي بأن الهدف كان محاكيًا عندما سُئل عما إذا كان الصيانة البشرية حقيقية.