跳到正文
Dev.to Top Tech(dev.to)· Bug Bounty & Beyond·· 6 天前品質評分58

DocsBot 的 RAG 聊天機器人為何會洩漏別家客戶資料?

One Question to a RAG Chatbot Leaked Another Customer's Secret Price

重點導讀

如果不同客戶的檔案都放在同一個搜尋區,普通提問也可能讓人看到別家的資料。

  • 作者用假資料示範 DocsBot 的問題:系統搜尋所有客戶檔案,再把找到的內容交給模型,因此登入 Acme Traders 的人問 Bluefin Foods 的價格時,會看到對方的機密價格、聯絡電話和 PixelKart 的內部成本。
  • 作者也示範修正方式:搜尋前先依登入帳號限制可查的檔案,並在回答送出前檢查引用的檔案是否有權檢視。
  • 這是本機實驗,不代表真實客戶資料曾遭外洩。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

One Question to a RAG Chatbot Leaked Another Customer's Secret Price

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論