IT之家 11 月 21 日援引 Ars Technica:安全厂商 Dragos 的首席研究官 HD Moore 在 7 月到 11 月间,向多家 AI 服务商投递了约 200 万条带唯一标记的请求。标记在正常流量里永远不会出现,一旦被访问,就说明有人读到了原始提示词。
三层泄漏
最直接的一层是托管商被入侵。至少三家出现被窃迹象,攻击者拿诱饵密钥调用云接口数万次,找新凭证、开通模型服务、加自己的账号维持访问。有密钥在提交后几小时内就被试用;也有请求在模型跑起来之前已被拒绝,密钥照样被抄走,说明复制发生在入口。
第二层是转售商。有人只是把模型挂到最低价、打开请求日志,就完整留下了客户的提示词,不需要利用任何漏洞。第三层是隐私设置被无视:标了零数据保留的请求,私密网址在两三天后被抓取,最长的隔了两个多月,还有一条在 24 天后出现在飞书群里。
两种口径
- 合同写零数据保留 vs 私密网址数日后仍被访问,个别隔了两个多月
- 用户以为只连一家厂商 vs 请求经路由与转售商逐层转发,每一跳都能看到全文
- 密钥几小时内被用 vs 模型尚未运行、请求已被拒,密钥仍然失窃
Moore 的建议很朴素:敏感业务尽量本地部署;做不到,就直连可信厂商,并明确指定上游是谁。
原文链接:https://www.ithome.com/1/030/322.htm
来源:IT之家