Hermes Agent 如何避免把程式碼貼到 Slack
Our Slack AI agent can read our code. It can't ship it.
重點導讀
AI 助理能讀取程式碼來回答問題,但也可能把程式碼貼進多人看得到的 Slack 討論串。
- 作者替開源專案 Hermes Agent 加上執行時防護,逐一檢查回覆、附件和其他送出內容,並比對內容是否含有自家程式碼。
- 命中時就攔下整則回覆。作者也先用只記錄、不攔截的方式觀察誤判,再逐步啟用防護,並檢查每次攔截後 AI 助理是否因此漏掉工作。這套做法能減少程式碼外流,但改寫過的程式碼仍可能躲過比對。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
作者以自家 Slack AI 助理為例,逐一追查程式碼外流路徑,說明如何用執行時防護與實際紀錄檢查,降低提示詞規則失效的風險。
信源出處dev.to
Our Slack AI agent can read our code. It can't ship it.
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文