AI 快讯200万提示词揭开AI泄密链
行业快讯

200万提示词揭开AI泄密链

2026-11-20T23:02:36.821Z
200万提示词揭开AI泄密链

一项覆盖约200万次推理请求的追踪实验发现,用户提示词可能经过未披露的路由商、算力提供商和转售方,甚至在启用零数据保留后仍被访问。

200万个“金丝雀”,测出AI供应链正在漏水

AI提示词并不会在模型回答完成后自动消失,它可能沿着一条用户看不见的供应链继续流动。

当地时间11月19日,网络安全公司 Dragos 首席研究官、Metasploit 创建者 HD Moore 公布了一项持续5个月的实验:研究团队从2026年7月至11月向大量AI服务提交了约200万条提示词,并在每条提示词中放入独一无二、可追踪的“秘密”。一天后,Ars Technica 对该研究进行了详细报道。(dragos.com)

这些秘密包括从未公开过的URL、DNS名称、SSH密码、私有Git仓库地址,以及与空AWS账户绑定、但确实可以使用的访问凭证。每个秘密只出现在一条提示词中,因此只要有人访问对应URL、尝试登录服务器或者调用AWS接口,研究人员就能反推出是哪一次AI请求发生了外泄。

金丝雀令牌是一种只放在单一位置的诱饵信息,一旦被使用,就意味着接触过它的系统或人员可能已经越过预期边界。

结果并不是偶发的日志误触发,而是一个相当完整的泄密图景:至少3家AI服务提供商疑似遭到入侵;部分推理市场卖家可以直接记录客户提示词;一些标记为“零数据保留”的请求仍被后续系统抓取;还有提示词在提交24天后出现在一家公司的飞书内部聊天中。(dragos.com)

这项实验最重要的结论不是“某一家AI公司不安全”,而是开发者对AI请求路径的理解,可能从一开始就是错的。

AI提示词从应用、AI路由、推理市场、模型托管商到模型实验室的多层流转示意图,并在每一层标注可读取明文提示词的风险点

你以为在调用模型,实际调用的是一条供应链

AI推理供应链是指一条提示词从用户应用出发,经过网关、路由平台、推理提供商和模型服务商,最终返回结果的完整处理链路。

传统认知中的模型调用很简单:应用把提示词发给OpenAI、Anthropic或其他模型厂商,厂商完成推理,再把回答返回给应用。但为了降低成本、自动切换模型、提高可用性,不少AI产品实际上接入了AI路由器或统一网关。

AI路由器会根据模型价格、延迟、上下文长度、地区和当前容量,选择一个推理节点处理请求。问题在于,一个路由器的“上游提供商”仍可能是另一个路由器;第二个路由器再把任务转给推理市场卖家;卖家最后才把请求交给真正运行模型的服务器。

HTTPS只能保护提示词在网络传输时不被沿途窃听,却无法阻止合法处理请求的节点读取内容。因为每一跳都必须先解密请求,才能完成鉴权、计费、路由、内容审核或推理。

研究团队甚至发现了类似网络Traceroute的“AI路由追踪”现象:部分错误响应中会嵌套三四层不同平台的错误封装,据此可以识别未被公开的中间节点。团队目前追踪了约2000条推理路径,其中数百条包含无法识别的系统,少数请求还触达了不在宣传路径中的公司。(dragos.com)

| 处理层级 | 典型角色 | 为什么需要读取提示词 | 主要泄密风险 | |---|---|---|---| | AI应用 | 办公、编程或客服产品 | 组装上下文与用户输入 | 本地日志、会话历史、插件记录 | | AI网关 | 企业统一模型入口 | 鉴权、限流、成本统计 | 调试日志、链路追踪、管理员访问 | | AI路由器 | 动态选择模型和节点 | 判断模型、价格和可用性 | 未披露的二次转发、隐私标记丢失 | | 推理市场 | 聚合多个算力卖家 | 分配订单并完成结算 | 卖家可见请求日志、恶意低价抢单 | | 托管平台 | 运行模型实例 | 执行推理或批处理任务 | 入侵、错误存储、员工权限过大 | | 模型实验室 | 开发或维护模型 | 安全分析、质量评估或模型服务 | 数据回流、抓取、超期保留 |

这意味着,企业即使认真审核了面向自己的AI产品,也可能完全没有审核真正处理数据的第四方和第五方供应商。

第一类问题:攻击者直接偷走了提示词

最严重的发现是,攻击者疑似已经进入至少3家AI托管提供商,并在模型运行前后批量截获客户请求。

研究人员在2026年10月下旬的几个短时间窗口内,向其中一家提供商发送了数百条包含AWS诱饵凭证的请求。实验显示,这些窗口中的请求全部被窃取,其中部分请求甚至在模型执行前就被服务商拒绝,但请求中的凭证依然被攻击者获得。

这一细节说明,泄密点很可能位于请求入口、日志系统或网关层,而不是模型内部。换句话说,模型是否完成推理并不重要,只要提示词抵达服务商边界,秘密就可能已经进入攻击者视野。

攻击者在拿到AWS凭证后,通常会先验证凭证是否有效,然后枚举S3存储桶、Secrets Manager和Parameter Store,寻找更多秘密。之后,他们还尝试启用AWS Bedrock中的托管模型、创建Bedrock访问凭证,并增加新的IAM用户以维持权限。

实验中的诱饵凭证最终触发了数万次AWS API调用,部分凭证在被植入提示词后的几个小时内便遭到测试,还有一枚凭证在3周后仍被使用。(dragos.com)

零数据保留无法防御已经进入服务商内部的攻击者。

研究人员发现,另外两家被入侵提供商泄露的请求中,有一部分明确标记了ZDR。ZDR,即Zero Data Retention,是服务商承诺不持久保存提示词和模型输出的一种数据处理模式,但它本质上仍是一项由软件流程和内部权限落实的政策,不是密码学保证。

只要攻击者控制了请求入口、可观测性平台或内部凭证,ZDR标记就只是一段元数据。

第二类问题:最低价卖家也能看到你的秘密

部分提示词泄露不需要攻破平台,因为推理市场的正常日志功能就可能让卖家读取客户请求。

开放式推理市场通常允许不同卖家提供同一模型的算力,并通过价格竞争获得订单。如果某个卖家故意把价格压到最低,它就有机会接收大量真实请求;如果平台又允许卖家启用详细日志,提示词就会成为订单附带的数据资产。

研究团队采用了对照实验:将包含不同诱饵秘密的请求发送给同一模型,但选择不同卖家。结果显示,只有经过特定卖家的秘密随后遭到访问,这意味着泄密跟随的是卖家,而不是模型本身。

其中一次实验里,两条提示词被发送给同一个卖家。大约36小时后,有人通过家庭宽带和桌面浏览器打开了两条秘密URL,并开始在登录页面猜测用户名。另一次事件中,法国一个家庭网络中的Mac电脑使用提示词里的密码,手动尝试以root身份登录SSH服务器,随后又在同一会话中测试多枚AWS凭证。(dragos.com)

这种攻击模式的成本很低:卖家可能需要补贴少量推理费用,却可以换取源代码、数据库结构、云凭证、商业合同和内部文档。对攻击者来说,这不是传统意义上的漏洞利用,更接近“低价收购数据入口”。

这也解释了为什么“默认选择最便宜节点”在AI场景中格外危险。路由算法看到的是每百万Token价格,攻击者看到的却是提示词所承载的企业情报。

第三类问题:ZDR请求仍可能被抓取和转发

研究发现,隐私标记可能只约束第一个接收请求的平台,而无法自动约束整条供应链。

最典型的案例涉及一家未具名的中国AI实验室。研究人员表示,在2026年7月至10月发送给其模型的提示词中,超过一半包含的秘密URL被该实验室系统访问;即使只统计标记为“不收集数据”或ZDR的请求,约三分之二仍触发了抓取行为。抓取通常发生在请求完成后的两三天。

更值得注意的是,部分请求并非直接发送给这家实验室,而是发送给在美国提供其模型服务的托管商。相同的抓取系统仍会出现,说明提示词可能从美国托管商回流到了模型实验室。(dragos.com)

这对有数据驻留要求的企业尤其危险。企业选择美国节点,并不必然意味着数据只在美国处理;企业关闭训练数据收集,也不必然意味着搜索、质量评估、滥用检测和调试流程不会保存提示词。

研究还发现,一家美国提供商在某个秘密URL只被用于一次搜索推理调用后,持续访问该地址超过两个月。另一家提供商则会在每次请求完成数天后重新抓取链接,而且这种行为与用户选择的入口路由无关。

最离奇的一次触发发生在请求提交24天后:一条秘密链接被贴进某公司的飞书群,两分钟内便从北京和上海的3台电脑与3部手机打开。研究团队向服务商披露问题时只提供了链接开头8个字符,因此群聊中的完整地址显然来自某份长期保存的原始提示词。(dragos.com)

“不用于训练”不是“不保存”,更不是“不流转”

AI服务的隐私选项经常描述不同问题,却容易被用户理解成同一个承诺。

“不用于训练”通常只表示提示词不会进入通用模型训练集,不代表服务商不会为了内容安全、故障排查、计费和质量评估而保留数据。“零数据保留”理论上更严格,但仍需要确认它覆盖哪个产品、哪个端点以及哪种处理模式。

| 隐私表述 | 通常意味着什么 | 不一定意味着什么 | |---|---|---| | 不用于训练 | 不进入通用模型训练流程 | 不记录日志、不进行人工审核 | | 临时会话 | 不展示在普通历史记录中 | 后端立即删除全部副本 | | 零数据保留 | 指定推理路径不持久保存输入输出 | 所有分析、批处理和下游节点都不保留 | | 数据驻留 | 主要数据在指定地区处理或存储 | 每个子处理商和运维系统都位于当地 | | 企业隐私模式 | 提供更严格的合同和管理控制 | 不存在服务商入侵或内部权限风险 |

Cloud Security Alliance 在11月12日分析Notion AI相关事件时,也把这一问题归纳为“第四方AI子处理商风险”:Notion是客户直接采购的第三方,Fireworks AI是Notion使用的第四方推理平台,而托管Fireworks研发机器的云提供商则可能成为第五方。客户通常只看得到第一份合同,却需要承担整条链路的安全后果。(labs.cloudsecurityalliance.org)

这次“200万金丝雀”实验相当于用可观测证据证明,隐私政策不能自动跨越供应链传播。上一跳收到ZDR请求,不代表下一跳也会按ZDR处理;路由器宣称选择合规节点,也不代表某个分析任务不会进入另一套数据管道。

开发者真正应该改变什么

最现实的防御策略不是彻底拒绝AI,而是按提示词敏感度主动选择处理路径。

第一,任何真实凭证都不应该进入提示词。开发者调试配置文件时,应先删除访问令牌、Cookie、数据库连接串、私钥和云账户信息;企业网关也应在请求发出前执行秘密扫描,而不是依赖模型服务商在下游清洗。

第二,高敏感任务应尽量缩短供应链。直接使用一线模型提供商通常意味着更少的处理节点、更清晰的合同关系和更容易审计的日志。它仍然不是绝对安全,但风险边界比自动进入开放推理市场更明确。

第三,使用AI路由器时应固定允许的上游提供商。企业不应允许系统为了节省几分钱,把含有源代码或客户资料的请求自动发给未知卖家,也不应默认接受平台动态新增的节点。

第四,企业应为不同类型的数据建立不同通道。公开文档和低敏感度文本可以进入多模型路由;内部代码与经营数据只进入经过审核的企业端点;密钥、未披露漏洞、并购材料和受监管数据则不应离开本地环境。

第五,防守方也可以在自己的AI系统中部署金丝雀令牌。可以在RAG知识库、Agent上下文、内部文档和测试凭证中植入唯一标识,并将任何外部访问视为安全事件。Thinkst已开源Canarytokens项目,OWASP的AI安全验证材料也建议在数据库、RAG索引、缓存和工具返回值中放入可区分租户的合成金丝雀,用于检测越权读取和数据外泄。

第六,企业需要保存“请求实际去了哪里”的证据。模型名称、入口服务商、最终推理节点、地区、隐私标记、处理时间和保留策略都应进入审计日志,否则事故发生后只能拿着一份产品宣传页猜测数据路径。

这不是模型安全问题,而是云供应链问题

这项研究揭示的核心矛盾,是AI产业已经把提示词变成高价值数据,却仍在用普通算力订单的方式转售和调度它。

GPU算力可以被标准化为Token单价,但提示词的价值无法被标准化。一条请求可能只是“帮我改写邮件”,也可能包含一家公司的生产数据库密码、尚未公开的漏洞、即将发布的产品设计或客户完整身份信息。

当路由系统只围绕价格和延迟优化时,安全性就容易被当成无法量化的附加条件。更糟糕的是,恶意卖家可以主动提供不合理的低价,因为它真正想购买的不是市场份额,而是请求日志。

AI行业过去两年不断强调模型幻觉、提示词注入和Agent越权,但这些风险至少还发生在用户可见的应用逻辑中。供应链泄密更难处理,因为模型可能回答得完全正确,延迟也很正常,账单甚至更便宜,用户却无法从结果中看出提示词已经被复制。

“模型回答了什么”已经不是唯一需要审计的问题,“谁在回答之前读过它”同样重要。

200万个金丝雀证明,提示词隐私不能只靠服务商设置页面上的一个开关。对开发者和企业而言,真正可靠的路径仍然是:减少秘密进入上下文、减少中间节点、限制出站目的地、部署自己的泄密探针,并把AI聊天记录视为可能包含凭证的高敏感数据。

这套措施不会像切换ZDR选项那么轻松,但至少它们属于企业自己能够验证的控制,而不是一条无法看见的供应链给出的口头承诺。

参考来源

  • Thinkst Canarytokens:开源金丝雀令牌系统,可通过唯一URL、DNS记录和诱饵凭证检测未授权访问。
  • OWASP AISVS:AI系统安全验证标准项目,包含提示词泄露、合成金丝雀和输出隐私检测等建议。
  • OWASP Secure Agent Playbook:面向AI Agent和LLM应用的威胁评估与防护实践集合。

相关推荐

查看全部