攻击者的 AI 代理一直在寻找互联网暴露的 AI 应用程序(如 LiteLLM、One API 和 Dify)中的弱点,以窃取存储在内部的 AI 提供者密钥,根据代理自己的记录。
这些记录是亚马逊的威胁情报团队通过诱饵服务器捕获的,描述了被盗密钥被用于运行 AI 模型,从而推动寻找更多密钥的过程。
该团队本周表示,它无法验证代理报告的结果。它对代理在 ARTEX 上运行的信心适中,ARTEX 是一个用于渗透测试的开源 AI 工具。
记录包括每个目标产品的已知入口点的剧本。它列出了默认管理员凭据,例如 LiteLLM 的默认主密钥、未完成的安装(外部人员可以接管)以及 Langflow 和 RAGFlow 中的已知缺陷。
在本周报告的另一起案件中,Cloudflare 的事件响应者看到 ARTEX 获得了一个被攻陷的 API 令牌,该令牌曾用于 CI/CD。该令牌没有 IP 限制或速率限制,随后发生的活动包括在一小时内发出 400 次数据库转储请求。该公司尚未说明这些请求是否返回了任何数据。
一个操作员给 ARTEX 一个目标和一个目标,规划代理将目标分解为任务,供运行安全工具的工作代理使用。为了决定每一步,代理将其工作发送给大型语言模型(LLM)。
诱饵服务器是名为 MadPot 的网络的一部分,伪装成流行的 LLM 服务。从 10 月 3 日到上周末,代理向其发送的请求通常携带了一个活动的完整历史,包括操作员的指令和代理报告的发现。
那些捕获的代理记录描述了在 MadPot 不监视的系统上进行的工作。“亚马逊威胁情报没有观察到该活动的发生,无法验证代理报告的结果,但记录显示了参与者所追求的目标,”该团队表示。
该团队以适中的信心评估,操作员是与中国相关的独立团体,引用了简体中文提示和中国时区设置等证据。
在主要活动中,代理寻找互联网暴露的 AI 应用程序,提取存储在内部的提供者密钥,验证这些密钥是否有效,并将其添加到共享池中。它们专注于持有多个提供者密钥的应用程序,因为那里的一个弱管理员页面可能会暴露多个帐户。
记录中提到的目标包括 LLM 网关和代理,如 One API、New API、Veloera、Sub2API 和 LiteLLM,以及 AI 应用程序构建者,如 Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat 和 Ollama。
剧本还涵盖了无需登录的管理和提供者设置端点、通过 One API 系统中的 isCliRequest 头进行的身份验证绕过,以及通过 URL-fetch 功能进行的服务器端请求伪造(SSRF),以访问云元数据服务。其他条目涵盖了留在客户端 JavaScript、源映射、调试路由和环境文件中的秘密。
当代理发现云凭据时,它们针对托管 AI 模型、秘密存储和应用程序身份的托管服务,优先考虑高级 AI 模型而非一般云访问。
为了寻找泄露的密钥,代理使用互联网扫描服务和证书透明度日志,并搜索 GitHub 存储库和事件档案、npm 和 PyPI 包、容器镜像层、笔记本、模型托管空间、粘贴网站和 Telegram 频道。
记录涵盖了数百个 AI 应用平台和其他系统的目标。该团队已通知可能受到影响的 AWS 客户。
微软上周报告称,攻击者正在使用代理 AI 工具(如 ARTEX)进行 GitHub 秘密猎取,寻找包括 AI 推理的 API 密钥在内的暴露凭据。
在 8 月 26 日,该公司描述了早期的 RAGFlow 攻击,其中一个隐藏的钩子在用户输入时捕获 AI 提供者密钥,以及一个 LiteLLM 网关的妥协,暴露了提供者密钥。
在其 RAGFlow 案例研究中,该公司对攻击者是否利用了某个漏洞以运行代码的信心仅为低。它没有将这些攻击与 ARTEX 关联。
诱饵记录还描述了第二个活动,其中代理试图使用深度伪造绕过两个加密货币交易所的身份检查。
一个验证供应商的服务器在代理尝试录制时拒绝了每次尝试的实时深度伪造视频。该团队没有说明代理伪造的身份证件照片是否通过了文件检查。
在过去八周中,Cloudflare 的事件响应者被召入多个涉及 ARTEX 及其构建工具的调查中。
在多个事件中,攻击者获得了与主要云提供商的客户环境的访问权限,并直接进入客户的 Cloudflare 帐户。根据该公司的说法,常见的根本原因是从未过期的静态 CI/CD 令牌,授予了客户云设置的广泛访问权限。
在 ARTEX 案例中,被攻陷的令牌是一个账户级 API 令牌。根据该公司的事件调查结果,妥协最有可能是通过第三方云提供商进行的。令牌最初是如何被盗的尚未披露。
名为 artex-*、artex-pgrecon-*、artex-pgw-* 和 artex-do-* 的新 Worker 脚本出现在账户中,每个名称对应不同的任务。该活动在账户的多个部分以每分钟超过 69 次请求的速度运行。它包括尝试建立持久性和验证其他第三方应用的会话令牌。
该公司认为,这些活动在很大程度上受到人类操作员的轻微指导。是否有任何持久性尝试成功尚未披露。
在本周的三天内,超过 50 个 AI 渗透测试框架的家族试图扫描该公司的客户,运行这些框架的 IP 地址现在已达到数千个。
FBI 本周在一份 FLASH 警报中表示,一系列攻击者已经