跳到正文
熱點事件持續更新

Zambo 用可查核收據記錄 AI 助理的工作

7 篇報導1 個報導來源10 小時前更新

先了解這件事

重點綜述

11月19日的報導介紹 Zambo:讓 AI 助理的操作經過同一個入口並留下收據;入口外做的事也能用 journal_log 記入同一串紀錄。

  • 作者檢查收據與雜湊值相符。11月20日,作者把指示、執行步驟和收據放進同一份紀錄,修改收據數字後重新計算 SHA-256,發現雜湊值不同。
  • 部分簽章與鏈結檢查則未執行。11月22日的報導說明,每次工具呼叫都會留下工具、時間和結果雜湊值,並接續同一項工作的前一筆紀錄。
  • 即使呼叫遭阻擋、工具沒有執行,也會留下紀錄,拿到連結的人可免費查核。後續文章把工作收據用於檢查 AI 產生的 pull request,並介紹 Zambo 使用的 AER-1 格式。最新報導提醒,單看雜湊值無法確認紀錄完整,也無法確定每個聲稱完成的步驟都有紀錄。
  • 查核還要檢查紀錄是否被截短或替換,以及步驟是否逐一留有紀錄。這些方法只能協助確認紀錄儲存後有沒有被改動,不能證明工作確實完成或結果正確。
  • 若收據由服務端建立,查核者也得信任該服務。

根據報導自動生成 · 10 小時前更新

事件進展

6 個進展
  1. 11月22日 18:37 · 1 篇報導
    介紹 AI Agent 執行記錄的驗證方法
    Dev.to Top Tech:如何查核 AI 助理的操作紀錄,不必只相信 AI 助理
  2. 11月22日 17:36 · 1 篇報導
    介紹 AI 生成 PR 的工作憑證
    Dev.to Top Tech:AI 產生的 pull request,怎麼證明每個步驟真的做過?
  3. 11月22日 06:55 · 1 篇報導
    用執行紀錄驗證 AI Agent 工作
    Dev.to Top Tech:怎麼確認 AI 助理真的做了它聲稱完成的工作?
  4. 11月22日 06:30 · 2 篇報導
    Zambo推出可驗證的代理工具呼叫收據
    Dev.to Top Tech:Zambo 如何留下 AI 助理每次工具呼叫的公開查核紀錄
  5. 11月20日 02:13 · 1 篇報導
    Zambo示範以收據驗證AI代理執行
    Dev.to Top Tech:Zambo 實例示範如何確認 AI 助理照指示完成工作
  6. 11月19日 22:44 · 1 篇報導
    Zambo示範記錄與驗證AI代理操作
    Dev.to Top Tech:如何記錄 AI 助理做過的每一件事?

報導時間線

沿著報導,瞭解事件的不同面向。

11月22日
  1. Dev.to Top Tech
    如何查核 AI 助理的操作紀錄,不必只相信 AI 助理

    AI 助理交出一份操作紀錄時,單看紀錄裡的雜湊值,還不能知道內容是否完整,也不能確認它記下了每個聲稱做過的步驟。作者把查核分成三件事:比對內容有沒有被改過、確認紀錄尾端沒有被刪掉或整份替換,以及逐一檢查每個聲稱的步驟是否都有紀錄。文章也比較兩種做法:把紀錄串成鏈並從外部儲存頭端雜湊,或替每次操作建立可公開查驗的收據。兩者都只能證明紀錄未被事後改動,不能證明工作結果正確;而由服務端建立收據,也代表查核者需要信任建立收據的執行服務。

  2. Dev.to Top Tech
    AI 助理的「信任層」是什麼?用收據讓別人查清楚它做過什麼

    別人要採用 AI 助理做出的結果時,光聽平臺說「可以相信」還不夠,還得能自己檢查它做過什麼。文章介紹 Zambo 使用的 AER-1 格式:每次工具呼叫都會留下收據,記下執行內容,並用 SHA-256 算出一串檢查碼,讓任何人都能確認結果後來有沒有被改過。 例如,一次查詢透過 Coinbase 取得 BTC 價格,收據記下結果,別人可以重新計算檢查碼,確認它和原本的一致;檢查也不需要帳號。這些紀錄能說明 AI 助理做了什麼、結果有沒有被改,卻不能證明結果本身正確。要判斷工作好不好,還是得由人來看。

  3. Dev.to Top Tech
    AI 產生的 pull request,怎麼證明每個步驟真的做過?

    AI 助理寫好的 pull request 看起來很完整,卻可能只是說測試跑過、檔案更新了,實際上沒有做。文章提出一種「工作收據」:每做一個步驟,就留下當時的結果和 SHA-256 雜湊值;審查者可以重新計算雜湊,確認結果有沒有被改過,也能標出哪些步驟根本沒留下紀錄、哪些還沒檢查。像檔案分析,就能把當時分析的結果存下來,再由審查者核對雜湊是否相同。這能幫忙確認某個步驟和它留下的結果,但不能證明結果正確,也不能代替人判斷程式值不值得合併。

  4. Dev.to Top Tech
    怎麼確認 AI 助理真的做了它聲稱完成的工作?

    光看 AI 助理交出的結果或它自己的說明,沒辦法確認工作真的做過。文章整理出三種造假方式:根本沒執行、執行的內容和說法不同,或事後修改結果。比較可靠的查法,是看執行系統當下留下的紀錄,再重新計算紀錄裡的 SHA-256 雜湊,確認結果有沒有被改過。文中的例子用 Zambo 查詢 ETH 價格,重新計算後雜湊相同;但這只能證明結果沒被事後修改,不能證明價格正確。

  5. Dev.to Top Tech
    Zambo 如何留下 AI 助理每次工具呼叫的公開查核紀錄

    想知道 AI 助理到底呼叫了哪些工具,光看服務商帳號裡的紀錄,外人通常無法檢視,也難以確認內容有沒有被改過。Zambo 會替經過它的每次工具呼叫留下收據,記下工具、時間和結果的雜湊值,並把收據接在同一項工作的上一筆紀錄後;即使呼叫被擋下、工具根本沒執行,也會留下紀錄。任何拿到連結的人都能免費查核。比如價格查詢留下了 ETH 為 $1,621.82 USD 的結果,其他人可以重新計算雜湊值,確認內容是否一致。不過,收據只能證明結果存下後沒有被改過,不能證明結果正確;AI 助理若透過其他連線呼叫工具,也不會出現在這份紀錄裡。

11月20日
  1. Dev.to Top Tech
    Zambo 實例示範如何確認 AI 助理照指示完成工作

    AI 助理說「完成了」,光看聊天紀錄很難知道它到底做了哪些事,也無法確認紀錄事後有沒有被改過。作者用 Zambo 跑了一個檢查網域與提示詞的任務,讓每個執行步驟各自留下收據,再把指示、步驟和收據包在同一份紀錄裡。作者改動收據中的一個數字後重新計算 SHA-256,結果和原本的雜湊值不同,顯示資料已變更。不過,收據只能證明儲存的結果沒有被事後改動,不能證明工具判斷本身正確;部分簽章與鏈結檢查也沒有執行。

11月19日
  1. Dev.to Top Tech
    如何記錄 AI 助理做過的每一件事?

    AI 助理的紀錄可能由它自己撰寫、被系統刪掉,或只能在原本的服務裡檢視,換個工具就找不到。這篇文章測試 Zambo 的做法:讓工作經過同一個入口,每次操作都留下收據;入口外做的事,也能用 journal_log 記進同一串紀錄。之後可以把整份工作的紀錄讀回來,並檢查資料有沒有被改過。 例如,作者記下查詢比特幣價格和閱讀資料的過程,再用公開的檢查方式確認收據內容與雜湊值相符。不過,收據只能證明紀錄存下後沒有被改過,不能證明事情真的發生或結果正確;入口也看不到沒有經過它、也沒有另外記錄的操作。

本事件熱度趨勢

當前熱度 8·可比範圍峰值 10(11月22日 07:00)·近 24 小時可比範圍變化 –

02.557.51011月19日23:0011月21日01:0011月22日02:0011月23日04:00

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點選圖表檢視每小時熱度;鍵盤可用左右方向鍵切換。

關聯事件

讀者討論

針對此事件的各方觀點與即時反饋