研究者埋下 200 萬個追蹤秘密,揭露 AI 服務鏈的資料外洩
Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
重點導讀
把密碼或雲端憑證放進 AI 提示詞,資料可能經過多家服務轉送,最後落入別人手中。
- 研究者在近 200 萬則提示詞中放入只用一次、可追蹤的秘密資料,發現至少 3 家 AI 服務供應商遭攻擊者入侵,另有轉售商記錄提示詞並轉交給他人使用。
- 部分服務也會在標示「不收集資料」或零資料保留時,仍讀取提示詞裡的秘密網址。研究者建議,能負擔的話可在自有伺服器上執行模型。
- 使用代管服務時,直接選擇上游供應商並瞭解其隱私政策,能降低風險,但無法保證資料一定不會外洩。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
研究者用可追蹤的秘密資料查出提示詞在多層轉送中外洩,並指出隱私設定無法阻止已遭入侵的服務讀取資料。
信源出處arstechnica.com
Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Ars Technica · AI (arstechnica.com)
開啟原文