عاملان هوش مصنوعی مهاجمان در حال جستجوی نقاط ضعف در برنامههای هوش مصنوعی در معرض اینترنت مانند LiteLLM، One API و Dify برای سرقت کلیدهای ارائهدهنده هوش مصنوعی ذخیره شده درون آنها هستند، طبق سوابق خود عاملان.
این سوابق که تیم اطلاعات تهدید آمازون با سرورهای فریبنده ضبط کرده است، توصیف میکند که کلیدهای سرقت شده برای اجرای مدلهای هوش مصنوعی که جستجوی کلیدهای بیشتری را قدرت میبخشید، استفاده میشدند.
این تیم این هفته اعلام کرد که نمیتواند نتایج گزارش شده توسط عاملان را تأیید کند. آنها اطمینان متوسطی دارند که عاملان بر روی ARTEX، یک ابزار متن باز هوش مصنوعی برای تست نفوذ، فعالیت کردهاند.
سوابق شامل یک کتابچه راهنما از نقاط ورود شناخته شده برای هر محصول هدف قرار گرفته است. این کتابچه شامل اعتبارنامههای پیشفرض مدیر مانند کلید اصلی پیشفرض LiteLLM، نصبهای ناتمام که یک فرد خارجی میتواند بر آنها تسلط یابد و نقصهای شناخته شده در Langflow و RAGFlow است.
در یک مورد جداگانه که این هفته گزارش شد، پاسخدهندگان حوادث Cloudflare مشاهده کردند که ARTEX به یک توکن API که به خطر افتاده و برای CI/CD استفاده شده بود، دسترسی پیدا کرد. این توکن هیچ محدودیت IP یا محدودیت نرخ نداشت و فعالیتهای بعدی شامل 400 درخواست تخلیه پایگاه داده در یک ساعت بود. شرکت هنوز نگفته است که آیا این درخواستها دادهای را بازگرداندند یا خیر.
یک اپراتور به ARTEX یک هدف و یک هدف میدهد و یک عامل برنامهریز هدف را به وظایفی برای عاملان کارگر که ابزارهای امنیتی را اجرا میکنند، تقسیم میکند. برای تصمیمگیری در مورد هر مرحله بعدی، عاملان کار خود را به یک مدل زبان بزرگ (LLM) ارسال میکنند.
سرورهای فریبنده، بخشی از یک شبکه به نام MadPot، به عنوان خدمات LLM محبوب عمل کردند. از 3 اکتبر تا اواخر هفته گذشته، عاملان درخواستهایی را ارسال کردند که اغلب تاریخچه کامل یک کمپین را شامل میشد، از جمله دستورالعملهای اپراتورها و یافتههای گزارش شده توسط عاملان.
این سوابق ضبط شده توصیف میکنند که کار بر روی سیستمهایی انجام شده است که MadPot آنها را زیر نظر ندارد. "تیم اطلاعات تهدید آمازون آن فعالیت را در حین وقوع مشاهده نکرد و نمیتواند نتایج گزارش شده توسط عاملان را تأیید کند، اما سوابق نشان میدهد که بازیگران چه چیزی را دنبال میکردند"، تیم گفت.
این تیم با اطمینان متوسط ارزیابی کرد که اپراتورها گروههای جداگانه مرتبط با چین بودند و به شواهدی از جمله درخواستهای چینی ساده و تنظیمات منطقه زمانی چین اشاره کرد.
در کمپین اصلی، عاملان به دنبال برنامههای هوش مصنوعی در معرض اینترنت بودند، کلیدهای ارائهدهنده ذخیره شده درون آنها را استخراج کردند، تأیید کردند که کلیدها کار میکنند و آنها را به یک استخر مشترک اضافه کردند. آنها بر روی برنامههایی تمرکز کردند که کلیدهایی برای بسیاری از ارائهدهندگان دارند، زیرا یک صفحه مدیریت ضعیف میتواند بسیاری از حسابها را در معرض خطر قرار دهد.
اهداف نام برده شده در سوابق شامل دروازهها و پروکسیهای LLM مانند One API، New API، Veloera، Sub2API و LiteLLM و سازندگان برنامههای هوش مصنوعی مانند Dify، FastGPT، Langflow، RAGFlow، Open WebUI، LobeChat و Ollama هستند.
کتابچه راهنما همچنین شامل نقاط پایانی تنظیمات مدیریت و ارائهدهنده است که نیازی به ورود به سیستم ندارند، دور زدن احراز هویت از طریق هدر isCliRequest در سیستمهای خانواده One API و جعل درخواست سمت سرور (SSRF) از طریق ویژگیهای URL-fetch برای دسترسی به خدمات متاداده ابری است. ورودیهای دیگر شامل اسراری است که در جاوا اسکریپت سمت مشتری، نقشههای منبع، مسیرهای اشکالزدایی و فایلهای محیطی باقی ماندهاند.
زمانی که عاملان به اعتبارنامههای ابری دست یافتند، خدمات مدیریت شدهای را هدف قرار دادند که مدلهای هوش مصنوعی، فروشگاههای مخفی و هویتهای برنامه را میزبانی میکنند و مدلهای هوش مصنوعی پریمیوم را بر دسترسی عمومی به ابر ترجیح دادند.
برای یافتن کلیدهای نشت شده، عاملان از خدمات اسکن اینترنت و لاگهای شفافیت گواهی استفاده کردند و در مخازن GitHub و آرشیوهای رویداد، بستههای npm و PyPI، لایههای تصویر کانتینر، دفترچهها، فضاهای میزبانی مدل، سایتهای چسب و کانالهای تلگرام جستجو کردند.
این سوابق شامل صدها هدف در پلتفرمهای برنامههای هوش مصنوعی و سایر سیستمها است. تیم به مشتریان AWS که ممکن است تحت تأثیر قرار گرفته باشند، اطلاع داد.
مایکروسافت هفته گذشته گزارش داد که مهاجمان از ابزارهای هوش مصنوعی عامل مانند ARTEX برای شکار اسرار GitHub استفاده میکردند و به دنبال اعتبارنامههای در معرض خطر بودند که شامل کلیدهای API برای استنتاج هوش مصنوعی بود.
در 26 اوت، این شرکت یک حمله قبلی RAGFlow را توصیف کرد که در آن یک قلاب پنهان کلیدهای ارائهدهنده هوش مصنوعی را در حین ورود کاربران به آنها ضبط کرد و یک نفوذ به یک دروازه LiteLLM که کلیدهای ارائهدهنده را در معرض خطر قرار داد.
در مطالعه موردی RAGFlow، این شرکت تنها اطمینان کمی در مورد اینکه کدام نقص، اگر وجود داشته باشد، به مهاجمان اجازه داد کد را اجرا کنند، داشت. این حملات را به ARTEX مرتبط نکرد.
سوابق فریبنده همچنین یک کمپین دوم را توصیف میکنند که در آن عاملان تلاش کردند تا بررسیهای هویتی را در دو صرافی ارز دیجیتال با استفاده از دیپفیکها دور بزنند.
سرور یک تأمینکننده تأیید هویت ویدئوی دیپفیک زنده را در هر تلاشی که عاملان برای ضبط آن انجام دادند، رد کرد. تیم نگفت که آیا عکسهای جعل شده از مدارک شناسایی که عاملان نیز جعل کردند، از بررسیهای مدارک عبور کردند یا خیر.
در هشت هفته گذشته، پاسخدهندگان حوادث Cloudflare به چندین تحقیق که شامل ARTEX و ابزارهای ساخته شده از آن بود، فراخوانده شدند.
در بیش از یک حادثه، یک مهاجم به محیط یک مشتری با یک ارائهدهنده ابری بزرگ دسترسی پیدا کرد و مستقیماً به حساب Cloudflare مشتری منتقل شد. علت اصلی مشترک توکنهای CI/CD استاتیک بود که هرگز منقضی نشدند و دسترسی وسیعی در کل تنظیمات ابری مشتری فراهم کردند، طبق گفته شرکت.
در مورد ARTEX، توکن به خطر افتاده یک توکن API در سطح حساب بود. به احتمال زیاد این نفوذ از طریق یک ارائهدهنده ابری شخص ثالث صورت گرفته است، طبق یافتههای حادثه شرکت. نحوه سرقت اولیه توکن فاش نشده است.
اسکریپتهای جدید کارگر با نامهایی مانند artex-*، artex-pgrecon-*، artex-pgw-* و artex-do-* در حساب ظاهر شدند که هر نام با یک وظیفه متفاوت مطابقت دارد. این فعالیت با بیش از 69 درخواست در دقیقه در چندین بخش از حساب اجرا شد. این شامل تلاشهایی برای ایجاد پایداری و تأیید توکنهای جلسه برای برنامههای شخص ثالث دیگر بود.
شرکت معتقد است که بخش زیادی از این فعالیت بهطور ملایم توسط یک اپراتور انسانی هدایت شده است. اینکه آیا هر تلاشی برای پایداری موفق بوده است یا خیر، فاش نشده است.
در طول سه روز این هفته، بیش از 50 خانواده از چارچوبهای تست نفوذ هوش مصنوعی سعی کردند مشتریان شرکت را اسکن کنند و آدرسهای IP که در حال اجرای چنین چارچوبهایی بودند اکنون به هزاران مورد رسیده است.
افبیآی در یک هشدار FLASH این هفته گفت که یک دامنه از مهاجمان وجود دارد که...