跳到正文
Dev.to Top Tech(dev.to)· Jeremy Sebastian·· 3 天前品質評分46

The Lattice 提出用許可權管住 AI 助理:每個動作都要先核准並留下紀錄

There Is Another Way to Do Agents

重點導讀

AI 助理如果能讀檔、花錢或傳訊息,出了差錯時就得弄清楚它看過什麼、做了什麼,以及誰讓它這麼做。The Lattice 把許可權放進系統設計裡:AI 助理一開始什麼都不能做,每次想採取動作,都要先由執行環境檢查它是否獲準、能在哪裡做,以及許可權是否還有效;不符合條件就會被拒絕,模型也不能自己加許可權。例如,AI 助理若只獲準讀取某個資料夾,想改寫檔案或跑到資料夾外就會被擋下;每次申請、核准、拒絕和操作都會留下不能修改的紀錄。多個 AI 助理也能透過共享紀錄交換主張,由各自決定要不要採取行動。這種做法讓人能事後查清發生了什麼,也能在有限許可權下測試 AI 助理。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

There Is Another Way to Do Agents

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論