AI 代理的治理：GovAI 的 Alan Chan 談監控、代理身分識別、失控代理與為遞迴自我改進預作準備

Alan Chan 是 GovAI 的研究員，投入 AI 代理（agent）治理研究約兩年。這場分為上下兩集的對談——分別錄於一篇關於遞迴自我改進（recursive self-improvement）的重量級多人合著論文發表前後——盤點了他提出的哪些方案已經落實、哪些仍懸而未決。最重要的單一發現是：代理的治理基礎設施遠遠落後於代理能力。防竄改日誌（tamper-evident logging）在技術上已經解決，卻未廣泛部署；即時同步監控在英國 AISI 出事前仍只是待辦事項，始終沒做；代理身分識別在開放網際網路上基本上無解，代理多半是冒充自己的人類操作者。Chan 共同執筆的 RSI 論文，