DocsBot 的 RAG 聊天機器人為何會洩漏別家客戶資料?
One Question to a RAG Chatbot Leaked Another Customer's Secret Price
重點導讀
如果不同客戶的檔案都放在同一個搜尋區,普通提問也可能讓人看到別家的資料。
- 作者用假資料示範 DocsBot 的問題:系統搜尋所有客戶檔案,再把找到的內容交給模型,因此登入 Acme Traders 的人問 Bluefin Foods 的價格時,會看到對方的機密價格、聯絡電話和 PixelKart 的內部成本。
- 作者也示範修正方式:搜尋前先依登入帳號限制可查的檔案,並在回答送出前檢查引用的檔案是否有權檢視。
- 這是本機實驗,不代表真實客戶資料曾遭外洩。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
One Question to a RAG Chatbot Leaked Another Customer's Secret Price
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文