لقد كانت عملاء الذكاء الاصطناعي للمهاجمين تبحث عن نقاط الضعف في تطبيقات الذكاء الاصطناعي المعرضة للإنترنت مثل LiteLLM وOne API وDify لسرقة مفاتيح مزود الذكاء الاصطناعي المخزنة بداخلها، وفقًا لسجلات العملاء أنفسهم.
تصف السجلات، التي التقطها فريق استخبارات التهديدات في أمازون باستخدام خوادم خداعية، استخدام المفاتيح المسروقة لتشغيل نماذج الذكاء الاصطناعي التي زودت البحث عن المزيد من المفاتيح.
قال الفريق هذا الأسبوع إنه لا يمكنه التحقق من النتائج التي أبلغ عنها العملاء. لديه ثقة متوسطة في أن العملاء عملوا على ARTEX، أداة ذكاء اصطناعي مفتوحة المصدر لاختبار الاختراق.
تتضمن السجلات دفتر لعب يحتوي على نقاط دخول معروفة لكل منتج مستهدف. يسرد بيانات اعتماد المسؤول الافتراضية مثل المفتاح الرئيسي الافتراضي لـ LiteLLM، والتثبيتات غير المكتملة التي يمكن أن يستولي عليها شخص خارجي، والثغرات المعروفة في Langflow وRAGFlow.
في قضية منفصلة تم الإبلاغ عنها هذا الأسبوع، رأى المستجيبون للحوادث في Cloudflare أن ARTEX حصل على وصول إلى رمز API مخترق تم استخدامه لـ CI/CD. لم يكن لدى الرمز قيود على IP أو تحديد معدل، وشملت الأنشطة التي تلت ذلك 400 طلب تفريغ قاعدة بيانات في ساعة. لم تقل الشركة ما إذا كانت تلك الطلبات قد أعادت أي بيانات.
يعطي المشغل ARTEX هدفًا وغاية، ويقوم عميل التخطيط بتقسيم الغاية إلى مهام لوكلاء العمل الذين يقومون بتشغيل أدوات الأمان. لتحديد كل خطوة تالية، ترسل العملاء عملهم إلى نموذج لغة كبير (LLM).
كانت الخوادم الخداعية، التي تشكل جزءًا من شبكة تُسمى MadPot، تتظاهر بأنها خدمات LLM شائعة. من 3 أكتوبر إلى أواخر الأسبوع الماضي، أرسل العملاء إليها طلبات غالبًا ما تحمل التاريخ الكامل لحملة، بما في ذلك تعليمات المشغلين ونتائج العملاء المبلغ عنها.
تصف سجلات العملاء الملتقطة الأعمال المنجزة على الأنظمة التي لا تراقبها MadPot. "لم يلاحظ فريق استخبارات التهديدات في أمازون تلك الأنشطة أثناء حدوثها ولا يمكنه التحقق من النتائج التي أبلغ عنها العملاء، لكن السجلات تظهر ما كان يسعى إليه الفاعلون"، قال الفريق.
قدر الفريق، بثقة متوسطة، أن المشغلين كانوا مجموعات مرتبطة بالصين، مشيرين إلى العبارات الصينية المبسطة وإعدادات المنطقة الزمنية الصينية، من بين أدلة أخرى.
في الحملة الرئيسية، بحث العملاء عن تطبيقات الذكاء الاصطناعي المعرضة للإنترنت، واستخرجوا مفاتيح المزود المخزنة بداخلها، وتحققوا من أن المفاتيح تعمل، وأضافوها إلى مجموعة مشتركة. ركزوا على التطبيقات التي تحتفظ بمفاتيح للعديد من المزودين، لأن صفحة إدارة ضعيفة واحدة هناك يمكن أن تكشف العديد من الحسابات.
تشمل الأهداف المذكورة في السجلات بوابات LLM والوكلاء مثل One API وNew API وVeloera وSub2API وLiteLLM، ومطوري تطبيقات الذكاء الاصطناعي مثل Dify وFastGPT وLangflow وRAGFlow وOpen WebUI وLobeChat وOllama.
يغطي دفتر اللعب أيضًا نقاط نهاية إعدادات الإدارة والمزود التي لا تحتاج إلى تسجيل دخول، وتجاوز المصادقة من خلال رأس isCliRequest في أنظمة عائلة One API، وتزوير الطلبات من جانب الخادم (SSRF) من خلال ميزات جلب URL للوصول إلى خدمات بيانات السحابة. تغطي الإدخالات الأخرى الأسرار المتروكة في JavaScript من جانب العميل، وخرائط المصدر، ومسارات التصحيح وملفات البيئة.
عندما وجد العملاء بيانات اعتماد السحابة، استهدفوا الخدمات المدارة التي تستضيف نماذج الذكاء الاصطناعي، ومتاجر الأسرار، وهويات التطبيقات، مع إعطاء الأولوية لنماذج الذكاء الاصطناعي المتميزة على الوصول العام إلى السحابة.
للعثور على المفاتيح المسربة، استخدم العملاء خدمات مسح الإنترنت وسجلات شفافية الشهادات، وبحثوا في مستودعات GitHub وأرشيفات الأحداث، وحزم npm وPyPI، وطبقات صور الحاويات، والملاحظات، ومساحات استضافة النماذج، ومواقع اللصق، وقنوات Telegram.
تغطي السجلات مئات الأهداف عبر منصات تطبيقات الذكاء الاصطناعي وأنظمة أخرى. قام الفريق بإخطار عملاء AWS الذين قد يكونون قد تأثروا.
أبلغت مايكروسوفت الأسبوع الماضي أن المهاجمين كانوا يستخدمون أدوات ذكاء اصطناعي عميلة مثل ARTEX لصيد الأسرار في GitHub، بحثًا عن بيانات اعتماد مكشوفة تضمنت مفاتيح API للتفسير الذكي.
في 26 أغسطس، وصفت الشركة هجوم RAGFlow سابق، حيث تم التقاط مفاتيح مزود الذكاء الاصطناعي من خلال خطاف مخفي أثناء إدخال المستخدمين لها، واختراق بوابة LiteLLM التي كشفت عن مفاتيح المزود.
في دراسة حالة RAGFlow، كانت الشركة لديها ثقة منخفضة فقط بشأن أي ثغرة، إن وجدت، سمحت للمهاجمين بتشغيل الشيفرة. لم تربط تلك الهجمات بـ ARTEX.
تصف السجلات الخداعية أيضًا حملة ثانية حاول فيها العملاء تجاوز فحوصات الهوية في بورصتين للعملات المشفرة باستخدام تقنيات التزييف العميق.
رفض خادم أحد بائعي التحقق الفيديو المباشر للتزييف العميق في كل محاولة قام بها العملاء لتسجيله. لم يذكر الفريق ما إذا كانت الصور المزورة لوثائق الهوية التي قام العملاء أيضًا بتزويرها قد اجتازت فحوصات الوثائق.
على مدار الأسابيع الثمانية الماضية، تم استدعاء المستجيبين للحوادث في Cloudflare إلى تحقيقات متعددة تتعلق بـ ARTEX والأدوات المبنية منه.
في أكثر من حادثة واحدة، حصل مهاجم على وصول إلى بيئة عميل مع مزود سحابة رئيسي وانتقل مباشرة إلى حساب Cloudflare الخاص بالعميل. كانت السبب الجذري المشترك هو رموز CI/CD الثابتة التي لم تنتهِ صلاحيتها أبدًا، مما منح وصولًا واسعًا عبر إعداد سحابة العميل، وفقًا للشركة.
في حالة ARTEX، كان الرمز المخترق هو رمز API على مستوى الحساب. من المحتمل أن يكون الاختراق قد جاء من خلال مزود سحابة تابع لجهة خارجية، وفقًا لنتائج الحادث الخاصة بالشركة. لم يتم الكشف عن كيفية سرقة الرمز لأول مرة.
ظهرت نصوص Worker جديدة بأسماء مثل artex-* وartex-pgrecon-* وartex-pgw-* وartex-do-* في الحساب، كل اسم يتطابق مع مهمة مختلفة. كانت الأنشطة تتجاوز 69 طلبًا في الدقيقة عبر عدة أجزاء من الحساب. وشملت محاولات لإنشاء استمرارية والتحقق من رموز الجلسة لتطبيقات الطرف الثالث الأخرى.
تعتقد الشركة أن الكثير من هذه الأنشطة كانت موجهة بشكل خفيف من قبل مشغل بشري. لم يتم الكشف عما إذا كانت أي محاولة للاستمرارية قد نجحت.
على مدار ثلاثة أيام هذا الأسبوع، حاولت أكثر من 50 عائلة من أطر اختبار اختراق الذكاء الاصطناعي مسح عملاء الشركة، والـ IPs التي شوهدت تعمل على مثل هذه الأطر الآن تقدر بالآلاف.
قال مكتب التحقيقات الفيدرالي في تنبيه FLASH هذا الأسبوع إن مجموعة من المهاجمين قد