Zambo 實例示範如何確認 AI 助理照指示完成工作
How do I prove an AI agent followed my instructions? A worked example
重點導讀
AI 助理說「完成了」,光看聊天紀錄很難知道它到底做了哪些事,也無法確認紀錄事後有沒有被改過。
- 作者用 Zambo 跑了一個檢查網域與提示詞的任務,讓每個執行步驟各自留下收據,再把指示、步驟和收據包在同一份紀錄裡。作者改動收據中的一個數字後重新計算 SHA-256,結果和原本的雜湊值不同,顯示資料已變更。不過,收據只能證明儲存的結果沒有被事後改動,不能證明工具判斷本身正確。
- 部分簽章與鏈結檢查也沒有執行。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
How do I prove an AI agent followed my instructions? A worked example
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文