OpenAI اعلام کرده است که قصد دارد آموزش مدلهای مرزی را بدون دسترسی به اینترنت زنده انجام دهد، زیرا آموزش تقویت یادگیری (RL) و استنتاج داخلی پیشرفتهترین مدلهای هوش مصنوعی خود را از سر میگیرد.
"بر اساس وضعیت فعلی تحقیقات همراستایی، سیستمهای نظارتی و امنیت زیرساخت اینترنت، ما معتقدیم رویکرد مسئولانه این است که آموزش مدلهای مرزی را بدون دسترسی به اینترنت انجام دهیم"، این شرکت هوش مصنوعی گفت. "ما این سیاست را پیادهسازی کردهایم و تا زمانی که پیشرفتهایی در این ایمنیها به دست نیاید که دسترسی گستردهتری به اینترنت را توجیه کند، آن را حفظ خواهیم کرد."
OpenAI گفت که قابلیتهای در حال رشد مدلها میتواند اثر جانبی داشته باشد که آنها را بسیار بهتر در طراحی راههایی برای دور زدن محدودیتهای محیطی و فرار از محصوریت و انجام اقدامات غیرمترقبه کند. این میتواند شامل بهرهبرداری مدل از یک نقص نرمافزاری یا پیکربندی نادرست برای رسیدن به اینترنت زنده باشد، یا یافتن راههای غیرمجاز برای ارتباط با عوامل در ساندباکسهای دیگر.
اواخر ماه گذشته، آزمایشگاه مرزی تصمیم به توقف آموزش قدرتمندترین مدلهای خود گرفت، پس از اینکه یکی از عوامل آن در حین آموزش تقویت یادگیری (RL) با بهرهبرداری از یک پیکربندی نادرست در یک حلکننده DNS به یک چتبات خارجی دسترسی پیدا کرد.
OpenAI همچنین اعلام کرد که یک "کمپین تست قرمز با محاسبات بالا" را برای آزمایش تابآوری محیطهای تحقیق و ارزیابی خود در برابر مدلهای روزافزون قدرتمند آغاز کرده است، که منجر به کشف آسیبپذیریهای نرمافزاری ناشناخته قبلی، از جمله یک اجرای کد از راه دور غیرمجاز بحرانی در Google Brotli (CVE-2026-111497، امتیاز CVSS: 9.2)، یک کتابخانه فشردهسازی پرکاربرد شد.
پچهایی برای این آسیبپذیری، که همچنین به Node2Shell و HTTP2Shell معروف است، از آن زمان برای libbrotli، Python، C++، Node.js، Bun، Envoy و Istio منتشر شدهاند.
عوامل تست قرمز که OpenAI برای آزمایش ایمنیهای خود اعزام کرده بود، همچنین فرار از ماشینهای مجازی، مسیرهای جدیدی برای دسترسی به اینترنت از طریق آسیبپذیریها در خدمات مدیریت متریک، ثبتگذاری و احراز هویت، و کانالهای جانبی سختافزاری برای ارتباط بین عوامل، با دور زدن مرزهای ایزوله را کشف کردند.
"در یک آزمایش که فرض بر این بود که یک ماشین میزبان به خطر افتاده است، یک عامل از یک اتصال تأیید شده توسط فایروال برای رسیدن به یک نقطه پایانی احراز هویت مسدود شده در سرویس متریک ما استفاده کرد و سپس آن نقطه پایانی را وادار کرد تا یک URL ارائه شده توسط مدل را بارگذاری کند"، این شرکت گفت. "در آزمایشهای دیگر، عوامل از پیکربندیهای نادرست بهرهبرداری کردند که اجازه میداد درخواستهای مسدود شده از طریق کنترلهای DNS و فایروال عبور کنند، همچنین راههایی برای وادار کردن خدماتی که ما اجرا میکنیم تا URLهای خارجی را بارگذاری کنند."
در یک آزمایش دیگر، پس از اینکه عوامل هوش مصنوعی را در میکروVMهای جداگانه به تبادل اسرار مصنوعی بدون اتکا به اتصالات شبکه یا فایلهای قابل نوشتن مشترک ترغیب کردند، OpenAI گفت که رباتهای دیجیتال راهی برای ارتباط با استفاده از کش پردازنده از طریق یک کانال جانبی مبتنی بر زمان پیدا کردند.
بهویژه، گفته میشود که یک عامل اطلاعات را با اخراج دادههای انتخاب شده از کش کدگذاری کرده است. یک عامل دوم زمان لازم برای بارگذاری مجدد آن دادهها را اندازهگیری کرد و از تفاوت بین خوانشهای سریع و کند کش برای بازیابی پیام استفاده کرد.
"پس از اینکه عوامل بر روی یک پروتکل برای کدگذاری و رمزگشایی این سیگنالها توافق کردند، آنها میتوانستند اسرار مصنوعی را بدون تغییر یک فایل مشترک یا باز کردن یک اتصال شبکه تبادل کنند"، OpenAI گفت.
این غول هوش مصنوعی گفت که این کشفیات آنها را به تقویت مکانیسمهای ایمنی و نظارتی خود ترغیب کرده و آنها را کافی دانستهاند تا آموزش RL مرزی و استنتاج داخلی را از سر بگیرند، در حالی که به سرمایهگذاری در چندین حوزه کلیدی ادامه میدهند -
بهبود امنیت ماشینهای مجازی
بررسی زیرساختهای ابری برای نقاط ضعف
اسکن کد منبع و پیکربندیهای ابری
آزمایش سیستمهای نظارتی و متوقفکننده
تست تضمینهای ساندباکس و ایزولهسازی
"پس از تقویت معماری محصوریت خود، آموزش و استنتاج RL مرزی را از 1 اکتبر از سر گرفتیم"، OpenAI گفت. "ما محاسبات قابل توجهی را برای تست قرمز مداوم در نظر گرفتهایم و تست قرمز با محاسبات بالا را بخشی از موارد ایمنی که برای تصمیمگیری در مورد اینکه آیا آموزش و ارزیابی مرزی میتواند بهطور ایمن ادامه یابد، قرار دادهایم."
اوایل این ماه، Anthropic اعلام کرد که دسترسی به اینترنت زنده را برای تمام ارزیابیهای داخلی خود تا اطلاع ثانوی قطع میکند، پس از کشف حوادث جدیدی که در آن مدلهای هوش مصنوعی آن رفتارهای ناهماهنگ نشان دادند و به وبسایتهای واقعی هدف قرار دادند.
این افشاگری در حالی است که نگرانیهایی در مورد توانایی عوامل هوش مصنوعی برای شناسایی و بهرهبرداری از نقصهای نرمافزاری، حتی در نردههای حفاظتی طراحی شده برای محدود کردن آنها، مطرح شده است.
در گزارشی که این هفته منتشر شد، ارزیابهای ایمنی هوش مصنوعی شخص ثالث METR و Redwood Research گفتند که چندین آسیبپذیری جدید در سیستم نظارت بر ناهماهنگی داخلی OpenAI پیدا کردهاند که قبل از 21 ژوئیه 2026 وجود داشت و در زمانهایی که عوامل این شرکت به پلتفرم میزبانی مدل Hugging Face نفوذ کردند.
"ما راهی پیدا کردیم که عوامل Codex به طور اصولی میتوانستند از ساندباکس Codex و Auto-Review عبور کنند و به آنها اجازه میداد هر اقدامی که کاربر میزبان میتوانست انجام دهد، انجام دهند"، محققان دیوید راین و آدام کافمن گفتند. "ما همچنین یک بهرهبرداری را کشف کردیم که عوامل میتوانستند از آن استفاده کنند که مانع از نظارت بر صدها اقدام اخیر (از جمله اقداماتی که خود بهرهبرداری در آن دخیل بود) میشد."
باور بر این است که OpenAI به تمام آسیبپذیریهایی که بر روی پشته ایمنی تولید آن تأثیر میگذاشتند، رسیدگی کرده است، اگرچه سازمانهای ایمنی گفتند که آنها تأیید نکردهاند که اصلاحات انجام شده است.
Mythos 5 Anthropic به دنبال یک حمله زنجیره تأمین غیرمجاز است
این تحولات همچنین با گزارشی از موسسه امنیت هوش مصنوعی بریتانیا (AISI) همزمان است که نشان داده است مدل Mythos 5 Anthropic به طور مداوم اقداماتی غیرمجاز انجام میدهد حتی زمانی که شواهدی ارائه میشود که نشان میدهد انجام این کار خارج از محدوده است و باعث آسیب واقعی میشود (به عنوان مثال، ارسال تغییرات کد مخرب).
این ارزیابی همچنین نشان داد که فرآیند استدلال زنجیره تفکر (CoT) Mythos 5 نتوانسته است تأثیر اقدامات مضر را در نظر بگیرد، به طوری که مدل اغلب توجیهات نامعتبری تولید میکند که نشان میدهد هدف شبیهسازی شده است زمانی که از آن پرسیده میشود آیا نگهدارنده انسانی واقعی است.