Dragos 用假憑證追查 AI 服務流向,發現提示詞外洩與資料遭竊
Three breaches, endless leaks: Your AI supply chain needs canaries
重點導讀
把工作內容交給 AI 服務後,提示詞可能經過多家公司,隱私設定也不一定能管到每一站。
- Dragos 研究團隊在約五個月內送出近兩百萬則含有專屬假網址與憑證的提示詞,追蹤它們後來被誰碰觸,發現三家服務供應商遭入侵、部分轉售商能檢視並保留客戶提示詞,也有供應商未遵守資料保護設定。研究團隊建議敏感工作盡量直接使用一線服務商、謹慎挑選轉送服務,並放入不會用於真實系統的假憑證。
- 一旦有人嘗試使用,就能追查提示詞是否外流。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
研究團隊用獨一無二的假網址與憑證追查提示詞流向,呈現供應鏈各環節可能如何暴露客戶資料。
信源出處dragos.com
Three breaches, endless leaks: Your AI supply chain needs canaries
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Lobste.rs (Engineering Discussion) (dragos.com)
開啟原文