我在臨床筆記注入提示，模型忽略但回退失效
I let a prompt injection into my own app's clinical notes. The model ignored it. The fallback didn't.
重點導讀
我在臨床筆記中注入 30 個提示，模型忽略但回退卻將攻擊內容顯示給使用者。
- 測試環境：使用 SafeLabs‑Eval 0.12.0 與 ASI01 提示庫 1.13.0，將每個提示作為病患筆記透過真實 UI 注入。
AI 伴隨問答
針對這篇報導有疑問？可直接點選快捷問題或向 AI 追問背景脈絡與技術細節：
信源出處dev.to
I let a prompt injection into my own app's clinical notes. The model ignored it. The fallback didn't.
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： Dev.to Top Tech (dev.to)
開啟原文