跳到正文

#Agent

RSS
今日 35 則
11月17日週二
  1. Databricks Blog68

    Databricks 推出 AI Index,追蹤企業採用哪些 AI 模型及其成本

    企業可選的 AI 模型越來越多,光看模型表現或每個 token 的價格,很難知道哪種選擇最適合手上的工作。Databricks 推出公開的 AI Index,整理企業使用模型的情況與花費,也用實際程式開發任務比較不同模型和 AI 助理工具組合的成功率與每項任務成本,並計畫每週更新。資料顯示,開放權重模型在企業流量中的佔比從 7 月的 7.3% 升到 11 月的 30.9%;有些模型 token 單價較低,完成任務卻可能花更多錢。Index 也提醒企業按自己的工作內容比較品質和成本,因為測試結果不一定適用所有團隊。

    推薦理由:Databricks AI Index 把企業採用情況和程式任務的品質、成本放在一起比較,呈現模型選擇如何隨工作需求改變。

  2. Databricks Blog64

    Databricks 串接 AWS HealthLake,讓臨床資料能直接分析與查詢

    醫療機構想在其他平臺分析 AWS HealthLake 的臨床資料,過去得先把資料匯出、複製,還要分別管理許可權。Databricks 透過 OpenSharing 直接讀取 HealthLake 的資料,讓資料留在原處,也能交由 Unity Catalog 管理誰可以檢視和查詢。使用者還能透過 Genie One 用日常語言提問,例如檢視平均 A1C 每月的變化;系統會整理答案並提供表格和圖表。這讓不熟悉 SQL 的醫療與營運人員也能探索資料。

    推薦理由:這套整合讓 HealthLake 的 FHIR 資料能在不另存副本的情況下供 Databricks 查詢,並由 Unity Catalog 管理許可權,呈現臨床資料跨平臺使用的做法。

  3. Rohan Paul52

    只問使用者的偏好,AI 助理可能漏掉他看到實際選項後才會接受的方案。卡內基美隆大學的一項研究發現,像是「餐廳評分至少 3.8」的條件,可能排除評分 3.7、價格較低而使用者也願意選的店。研究中,在需求裡加入這種取捨後,使用者接受行程方案的比例從 12% 升到 55%;會先展示方案的 AI 助理,也比只提問的表現好。研究建議,在條件定案前先讓使用者看看幾個超出原先限制的選項。

  4. Dev.to Top Tech66

    Rowbly 如何用 AI 助理管理軟體開發流程

    一個人同時處理多個專案時,安排工作、接續開發和檢查程式碼都很花時間。Sunny Golovine 自己做了 Rowbly,把待辦工作放進看板的不同階段;每個階段可以附上提示詞,管理程式會依工作內容安排 AI 助理接手,開發完成後再交給另一個 AI 助理檢查。作者說,他用這套流程每天替不同專案送出約 50 個 PR。Rowbly 有命令列介面,也能自行設定工作流程;作者目前已改用 Pi 建立自動管理程式,並計畫加入 SSH 支援。

  5. Google Developers Blog59

    Google 示範如何用 Agent Anomaly Detection 找出 AI 助理越權行為

    AI 助理可能因工具許可權太大,讀到不該看的資料,團隊也未必能從當機或錯誤紀錄發現問題。Google 這份操作指南用一個虛構的客服助理示範 Agent Anomaly Detection:助理原本要處理訂單和退款,卻能讀取薪資資料;系統會檢視助理留下的紀錄,找出偏離工作範圍的對話,並說明原因與修正建議。指南也示範如何設定 Cloud Monitoring 和 Security Command Center 警示。範例資料只存在記憶體中,不會讀取真實資料;這項功能目前是 Private Preview。

  6. Hacker News (official RSS)42

    Ask HN:AI 工具這麼厲害,為什麼待修的程式錯誤還是清不完?

    有人好奇,AI 工具如果真能大幅加快寫程式,為什麼公司的待修錯誤和功能需求還是堆著?討論裡有人說,AI 助理雖然能修好眼前的問題,卻常只補上症狀,沒找出一整類錯誤的根源;團隊還得花時間審查程式碼,避免修好錯誤卻引發服務中斷。AI 助理也可能不熟悉整個專案,像剛加入的工程師一樣,只做區域性修改。這些經驗顯示,寫程式變快了,仍不代表工作能自動清完;判斷整體設計、檢查結果和確認產品好不好用,依然需要人。

  7. Hacker News (official RSS)75

    Claimseed 0.6.0 推出 1,022 份合成 Medicare 帳單測試資料

    測試帳單檢查工具時,不能拿真實病人的資料來試,也需要知道哪些地方確實有錯。Claimseed 0.6.0 提供 1,022 份完全合成的 Medicare 通知、醫院明細帳單和保險給付說明,每份都有答案可對照,並在檔案上標出這是測試樣本。資料包含刻意加入的錯誤、容易誤判的專案,以及掃描、傳真和低解析度版本;工具可依答案計算找錯和誤報情況。公開答案可能被模型訓練資料收錄,因此專案也提供另建私有測試集的方式。

  8. Dev.to Top Tech72

    den 把 API 金鑰留在 AI 助理看不到的地方

    AI 助理需要使用各種帳號,但如果金鑰被偷走,或模型把秘密資料送出去,其他服務也可能受到影響。作者做了 den,讓 AI 助理透過 den 的背景程式連線,由它替請求加上金鑰,並把金鑰限制在指定服務使用。AI 助理可以讀取資料、修改自己建立的內容,但合併程式、寄信和刪除資料等操作仍須使用者確認。den 也會把 AI 助理放進容器隔離;作者提醒,提示詞注入仍可能讓它洩漏讀到的內容,容器和許可權設定也無法排除所有風險。

  9. The Hacker News74

    Google 發現駭客用 AI 助理分析修補程式並打造攻擊工具

    駭客可能趁漏洞修補資訊公開後,趕在系統更新前找出攻擊方法。Google 威脅情報團隊表示,有些攻擊者正使用多個 AI 助理組成的工具,自動比對修補前後的程式碼,協助分析漏洞並製作攻擊用的概念驗證程式。Google 也觀察到,釣魚服務 Jieyou 加入聊天助理,讓技術經驗較少的使用者用自然語言修改釣魚頁面。這些工具能減少部分工作的時間與技術門檻,讓防守方更難掌握漏洞公開到攻擊發生之間的空檔。

  10. Dev.to Top Tech53

    Mehrad Arbab 分析可靠的 AI 助理還需要哪些設計

    AI 助理可以在沒人看著時連續工作好幾個小時,但它說「做完了」,不一定代表事情真的做對。Mehrad Arbab 分享他設計 AI 助理系統時的想法,主張用模型以外的檢查方式確認成果,記錄任務目標與重要決定,也要留意電腦資源和 AI 助理能執行哪些操作。文章用改程式和加快結帳等假想情境說明,任務清單全打勾,仍可能違反原本目標或限制。這些是作者的設計觀點與假想例子,不是測試結果,也不代表相關功能已經推出。

  11. Dev.to Top Tech35

    Kiro Crew 如何讓 Lazarus 修復停擺的 GitHub 專案

    GitHub 上有些專案因為套件過時、漏洞沒修補,或使用的 API 已經不能用而停擺,但裡面仍可能有值得留下的功能。Lazarus 讓 Kiro Crew 的 4 個 AI 助理分工檢查專案、找出問題、修改程式碼,再補上測試和檔案;完成後會跑測試,並向原專案提出修改請求。比如遇到只剩 Dependabot 提交紀錄的專案,測試也幫忙抓出判斷上的例外。作者表示,專案的健康分數平均從約 2.4 升到 7.9,讓修復過程更容易重複,也能追蹤每一步改了什麼。

  12. AWS Machine Learning Blog57

    Novo Nordisk 如何用 Amazon Bedrock AgentCore 查詢製造檔案

    製藥流程檔案數量龐大,還得確認檔案是否核准、版本是否有效,以及內容適用哪個廠區、產品和裝置,人工查詢容易耗時,也可能漏掉重要關聯。Novo Nordisk 團隊與 AWS 合作打造 AI 助理,先用知識圖譜釐清問題範圍,再結合關鍵字與語意搜尋找出相關檔案,並附上來源;問題不夠清楚時,會先詢問使用者。若找不到合適資料,系統會說明限制,不自行補答案。團隊表示,部分過去要花數小時或數天的工作,現在可在幾分鐘內完成。

  13. O'Reilly Radar58

    O’Reilly 示範如何檢查 AI 助理畫出的趨勢圖

    長距離射門上了精華片段,不代表踢進的機率變高;教練嘗試的次數增加,也可能讓球迷更常看到射門成功。O’Reilly 團隊用美式足球的射門資料測試 AI 助理,訂下圖表規則,要求顯示所有可用球季、從零開始的座標軸,以及成功率背後的嘗試次數。團隊還加上繪圖程式,遇到不符合規則的圖表要求時會拒絕作圖。這些做法讓讀者能看出數字背後有多少次嘗試,也能檢查趨勢是否被圖表畫得過於明顯。

  14. TechCrunch · AI39

    Jordan Belfort 推出 Tone,想用會「帶氣氛」的 AI 語音幫企業賣東西

    有些公司收到的銷售名單太多,人手打不完電話;Tone 想用 AI 語音助理補上這個缺口。Jordan Belfort 說,Tone 不只模仿人聲,也會用提問或放低聲音等說話方式,讓對話更有說服力;例如介紹健康保險時,它能詢問需求和預算、推薦方案,也能在客戶嫌價格太高時改談提高自付額。Belfort 表示,Tone 已服務法律事務所、健康保險公司等客戶,但目前效果還比不上頂尖銷售員;公司也說只會打給同意接聽的人或既有客戶。

  15. Dev.to Top Tech58

    如何先排出工作優先順序,再選 AI 助理架構

    企業規劃 AI 助理時,常先列模型、工具和多助理架構,卻還沒說清楚要幫使用者完成什麼工作。作者建議先列出工作的使用者、資料來源、要做的決定或產出,以及做錯的代價,再依價值和準備程度排序。接著依工作選擇單一 AI 助理、由主助理分派專長助理,或以工具為主的做法;程式解讀器、匯出、瀏覽和 MCP 搜尋也只在工作需要時開啟。試行時先看使用者能否完成工作、交接是否清楚,再決定是否投入共用平臺。

  16. Dev.to Top Tech57

    Postman 拆解 5 個上線中的 AI 助理,分享設計與部署方式

    AI 助理的展示常停在回答問題,讓人看不出它接了哪些服務、如何運作,以及能不能應付實際使用。Postman 介紹 5 個執行在 Astropods 上的 AI 助理,從電子報整理、雲端寫程式到 GitHub 程式碼審查和 Slack 新聞摘要,說明各自的介面、設定與部署方式。像 Cruise Line 會先分析程式碼變更,再由人決定哪些建議要送到 GitHub;Ada 則透過模型閘道切換模型。這些例子也展示瞭如何安排人工審核、觀察執行狀況,並依工作選擇合適的介面。

  17. Dev.to Top Tech72

    Zoho Desk 推出 Blended Agents,例行客服交給 AI 助理處理

    客服團隊常要花很多時間查訂單、確認庫存和處理改地址等重複工作,遇到複雜問題時又需要真人判斷。Zoho 在 Zoho Desk 推出 Blended Agents,可處理例行客服問題,並在需要人員介入時,連同對話紀錄和背景資料一起轉交;員工也能暫停工作並先核准動作。付費方案不另收代理授權費,但大型語言模型用量可能另計,使用 Zoho 自家模型的客戶每月可依方案取得最多 30 million tokens。文章提醒,實際用量和轉交品質尚未經獨立測試,適合先用少數常見問題試跑並觀察 token 用量。

  18. The Decoder77

    Alibaba 發布 Qwen4-Max,以較低成本挑戰 Opus 5.5、GPT-6 和 Kimi K3.1 Pro

    長時間工作和大量資料會讓 AI 模型花更多時間與費用,Alibaba 推出 Qwen4-Max,主打用較少 token 處理長內容和專業任務。它能直接看圖片,並提供一百萬 token 的上下文視窗;在 Alibaba 的 Work360 測試中,平均每項任務成本從 $4.43 降到 $1.67,分數也從 47.74 升到 52.69。外部評測結果不一:它在長時間 AI 助理任務表現突出,但在部分考試和程式開發測試落後競品。新功能 Live Delivery 會先交出可用的初版,讓使用者途中介入調整。Qwen4-Max 已可透過 QwenCloud 等服務使用,Alibaba 表示之後會開放較小型 Qwen4 模型。

    推薦理由:Qwen4-Max 在自家工作任務中以較少 token 降低成本,外部評測表現則有高有低,可看出效率與不同能力之間的取捨。

  19. Dev.to Top Tech59

    Agent Stack Radar 作者分享技能被退件後,如何靠實測找出五個問題

    自己寫的 AI 助理技能,紙上看起來可行,實際執行時卻可能用錯 API 引數,或超出預估的請求次數。James V 開發的 Agent Stack Radar 會整理 daily.dev 上和 Claude Code、MCP 等主題相關的熱門文章與留言,提供可修正、可嘗試或值得留意的建議。第一次送審時,他發現搜尋引數寫錯,請求量也估少了;實際跑過後,又找到三個問題,包括多字搜尋找不到標籤,以及不必重複讀取文章或沒有留言的貼文。他因此改成逐項計算請求、遇到空結果就提醒,並先查留言數再決定是否讀取。技能也只讀取內容,不會照著文章裡的指令行動。

  20. Google Developers Blog74

    Google 教你依 AI 助理的工作時段配置 GKE 節點

    AI 助理的工作空間可能整天開著,卻只在收到提示詞時工作;如果每個工作階段都一直佔著機器,等待時間也要付費。Google 說明如何用 Agent Substrate 和 AX 把閒置的工作環境暫存到物件儲存,空出機器,等下一次提示詞來時再恢復。以 100 個程式開發 AI 助理為例,每小時 2 次提示詞並設定 2 分鐘閒置時間,節點費用可省 40%;每小時 4 次提示詞時,節省幅度降到 4%。文章也提醒,工作池要依最忙時的需求配置,並和提供相同 CPU 保證的做法比較。

    推薦理由:文章用提示詞頻率和閒置時間比較 GKE 節點成本,並說明工作池滿載與 CPU 保證會怎麼影響停放效益。

  21. Replit ⠕42

    上週推出的功能: • 使用 AI 助理啟動 Google Ads 廣告活動,從廣告文案、圖片到轉換追蹤 • 使用 AI 助理購物:比較商品,再透過 Link(Stripe 的數位錢包)核准結帳 • 使用 Performance Agent 找出程式碼和記錄檔中的效能變慢問題 • Enterprise 版可與個別 Viewer 分享專案,並為 Microsoft Fabric 建置資料庫應用程式 更多內容請見更新紀錄: https://t.co/VHcDLwS3lI

  22. Dev.to Top Tech58

    Seedara 教你用一個 MCP 伺服器,讓 Claude、Cursor 和 ChatGPT 生成圖片與影片

    Claude、ChatGPT 和 Cursor 原本主要會處理文字與程式碼,不能直接畫圖或做影片。作者示範把 Seedara 這個遠端 MCP 伺服器接上後,AI 助理就能呼叫 9 種工具,生成圖片、影片、音訊,還能先查價格、檢視剩餘點數、比較模型與重複使用自己的素材。連線透過 OAuth 登入,不用 API key;連線免費,但影片生成功能需要付費方案,生成失敗時會退還點數。

  23. Together AI Official Blog70

    Together AI 分享如何改善 AI 助理使用平臺的體驗

    開發者把工作交給 AI 助理後,平臺說明不清或 API 出錯,也會讓助理卡關、白花時間和費用。Together AI 設計多種任務,測試不同模型在沒有額外指引、使用檔案搜尋或載入技能時能否完成工作,再檢視操作紀錄找出問題。他們修正 GPU 價格指引、API 錯誤訊息和技能範例後,整合版技能的通過率從第一次測試的 75% 提高到 97.2%,每次執行的平均時間也比舊版少 20%。不過,不同時期的測試用了不同模型和任務,不能直接當成嚴格的前後對照。

    推薦理由:Together AI 用實測找出技能說明、API 錯誤訊息和程式範例的問題,並比較修正前後的通過率與成本,呈現評估如何帶動改善。

  24. ElevenLabs Official Blog35

    Autotorino 用 ElevenAgents 接聽汽車經銷商來電,24 小時服務顧客

    Autotorino 每月會接到約 100,000 通電話,過去的錄音留言只能處理少部分來電。現在,ElevenAgents 會接聽電話、瞭解顧客需求並建立銷售線索,也能全天候接電話。電話內容經整理後,Autotorino 發現約 70% 的需求和售後服務有關,常見的是預約保養或安排交車;新系統處理的來電量也超過舊系統的 2 倍。Eleven v4 讓同一個聲音聽起來更自然,顧客也比較容易得到服務,Autotorino 因此計畫從 11 月起,先在第一間分店用 ElevenLabs 語音 AI 助理取代 IVR 系統。

  25. AWS Machine Learning Blog72

    Amazon Bedrock Managed Knowledge Base 如何用表格搜尋回答跨檔案問題

    只靠一般搜尋,很難從大型試算表算出完整結果,再套用另一份檔案裡的規則。Amazon Bedrock Managed Knowledge Base 的表格搜尋會找出相關 CSV 或 Excel 檔,在隔離且無法連網的環境中讀取整份表格、計算需要的數值,再搭配政策或備忘錄等檔案回答問題。文中的財務案例用預算規則、修訂備忘錄和損益表,找出哪些部門要撰寫差異說明;追蹤紀錄也會列出程式讀過的檔案。這種做法適合需要跨表格計算的問題,但會多花一個 AI 助理處理步驟;固定報表和大型資料分析仍適合交給商業智慧工具。

    推薦理由:文章用財務部門的預算案例,示範如何把表格計算和政策檔案放在一起查,並透過追蹤紀錄確認程式讀過哪些檔案。

  26. Dev.to Top Tech82

    FBI 警告 ARTEX 可在數小時內自動串接入侵手法

    ARTEX 不是漏洞,而是一套開源的自動滲透測試平臺;FBI 警告,攻擊者已用它把偵察、入侵到取走資料等步驟串起來。操作者用日常語言設定目標後,平臺會交由不同 AI 助理執行;部分攻擊從鎖定目標到取得高許可權不到三小時。FBI 通報的案例包括南韓金融機構約 67,000 人的個資遭取走,以及 ConnectWise Cloud Backup 事件波及超過 2,250 個下游租戶。通報建議盤點容易被忽略的外部網站與整合服務,並檢查雲端許可權、應用程式憑證和異常大量存取。由於 ARTEX 沒有可安裝的修補版本,防守重點是減少曝露並及早發現快速連續的異常操作。

    推薦理由:FBI 通報指出,ARTEX 能把熟悉的入侵手法快速串接,部分攻擊從鎖定目標到取得高許可權不到三小時,凸顯盤點外部入口與縮短偵測時間的關鍵。

  27. Dev.to Top Tech66

    Google ADK 入門教學:打造會呼叫工具的 AI 助理

    讓 AI 助理直接回答問題,可能會算錯金額,或在沒有查核時就執行退款。作者用 Google ADK 示範如何建立會呼叫程式工具的 AI 助理,讓工具負責計算和查詢,並在執行前檢查引數。文章中的退款範例會把超過 $150.00 的退款轉交財務人員審核,也說明如何用 SQLite 儲存資料,以及用網頁介面檢視執行過程。

  28. The Decoder72

    Anthropic 說明 AI 助理記憶的關鍵是留下對的資訊

    AI 助理連續做幾天的工作時,常會忘記前面做過什麼;但把所有事情都記下來,也可能讓筆記過時、妨礙工作。Anthropic 比較 Claude 在 Pokémon Red 中的表現:Claude Sonnet 3.7 記下大量細節,最後只拿到一個徽章;Claude Fable 5 只記策略和驗證過的規則,拿到四個徽章。這項比較每個模型只測了一次。Anthropic 也介紹 Dreaming,讓 Claude 閒置時回頭檢查舊對話並修正錯誤筆記;另一項法律問題測試中,結合維基資料的 Claude 得分為 87%,單用搜尋則為 73%。Anthropic 提醒,記憶仍要定期整理,否則錯誤資訊可能一直傳到後續工作。

  29. NVIDIA Newsroom Press Releases78

    NVIDIA 推出 Nemotron for Science,協助研究人員打造科學用 AI 助理

    研究人員要讓模型處理化學、生物等專門問題,得準備合適的資料,還要確認模型能不能做好。NVIDIA 推出 Nemotron for Science,整合 Nemotron 3.5 Super VL、新的化學資料集和微調配方,讓研究人員能調整模型、打造科學用 AI 助理。資料集 LitmusBench v0.2 收錄近 50,000 個化學問題,可用來訓練和評估模型;研究人員也能讓 AI 助理解讀科學資訊、撰寫程式碼並使用計算工具。Nemotron 3.5 Super VL 和資料集目前已可在 Hugging Face 取得。

    推薦理由:LitmusBench v0.2 同時提供化學推理的評估資料與訓練用途,搭配微調配方,讓研究人員能檢查模型能力並調整模型來處理科學任務。

11月16日週一
  1. Dev.to Top Tech77

    作者用 WhatsApp 助理測試提示注入,說明許可權檢查為何重要

    聊天裡有人放入指令,可能讓 AI 助理替帳號主人發話,甚至洩漏私人資料。作者發現自己的 WhatsApp 助理會替任何群組成員執行指令,於是比較只靠提示詞防護,以及在程式裡限制誰能下指令、模型能看見哪些資料和回覆送到哪裡。這組自製測試中,提示詞防護有時能擋住攻擊,但仍會回答陌生人的指令;許可權設定則拒絕陌生人的指令,並把回覆留在主人的私人聊天室。測試只有一個模型、少量自製案例,而且許可權設定一次改了三項,因此不能看出各項措施分別有多少效果。

    推薦理由:這組測試呈現提示詞防護與程式許可權檢查的差別,也提醒輸出送到哪裡、模型看得到哪些資料,都會影響風險。

  2. AWS Machine Learning Blog71

    Amazon Bedrock Managed Knowledge Base 教你為不同租戶調整回答

    不同地區的客戶和公司內部團隊可能共用同一批檔案,卻需要不同語言、格式和回答規則。這篇教學示範如何在 Amazon Bedrock Managed Knowledge Base 為每個租戶設定回答方式,並固定使用的設定版本,方便逐一更新和查明每次回答用了哪個版本。要注意的是,回答設定不會限制 AI 助理能讀哪些檔案;若要隔開各租戶的資料,還要用中繼資料篩選或分開知識庫,並由後端依登入身分選擇篩選條件。

    推薦理由:文章把回答風格設定與資料存取隔離分開處理,並示範如何用中繼資料篩選和版本固定管理各租戶的回答。

  3. OpenAI News80

    OpenAI 擴充 ChatGPT for Healthcare,加入跨醫療系統操作與 20 多種外掛

    醫療團隊常要在電子病歷、院內規定、排程和保險網站之間找資料、搬檔案,花不少時間切換系統。OpenAI 為 ChatGPT for Healthcare 加入能讀取畫面、點選和輸入資料的 AI 助理,也改進臨床搜尋,並新增 20 多種醫療外掛。舉例來說,醫師可以請它檢視病歷,草擬 MRI 檢查單和給病人的回覆,再由醫師檢查;外掛也能協助查病人紀錄、安排聯絡和確認保險資格。使用受保護的健康資料時,機構還須採用符合 BAA 等條件的服務並設定好安全措施。

    推薦理由:醫療團隊常得在病歷、院內規範與保險系統間搬資料;這次更新把操作現有軟體、查詢醫學證據和串接醫療工具放進同一工作流程。

  4. OpenAI News78

    OpenAI 推出醫療用電腦操作 AI 助理,協助團隊處理跨系統工作

    醫療團隊常得在不同系統間搬資料,才能完成轉診、保險事前授權等工作。OpenAI 開放醫療用電腦操作 AI 助理,讓它能在現有軟體中點選和輸入資料,先整理病歷、草擬醫囑或申請內容,再交給醫師或行政人員審核。OpenAI 表示,在 325 項臨床任務中,99% 被評為安全;在行政工作基準測試中,GPT‑6 Astra 得分 94.3%,GPT‑6 Luna 得分 91.8%,每項任務成本低 98%,為 8.5 美分。醫療機構也能設定許可權、加入核准步驟並檢視操作紀錄。

    推薦理由:文章呈現臨床與行政工作中的安全性、實用度和成本資料,也說明醫療團隊如何讓 AI 助理處理跨系統流程並保留人工審核。

  5. Hacker News (official RSS)73

    CheeseDB 讓 AI 助理刪除錯誤來源時,也能清掉受影響的記憶

    AI 助理記下錯誤資訊後,光刪掉原始來源,相關記憶可能還留著。開源工具 CheeseDB 會記錄每段記憶來自哪裡;移除某個來源時,也能找出依賴它的記憶一起移除。以餐廳網頁錯寫花生醬安全為例,刪除網頁來源後,從它學到的錯誤說法也會消失;若選擇 Erase,文字還會從檔案中清除。CheeseDB 目前仍是預覽版,尚未經獨立資安審查,作者也提醒不要用於正式資料。

  6. Dev.to Top Tech57

    Parmana 如何用政策檢查與簽名紀錄管住 AI 助理的動作

    AI 助理開始退款、付款或修改資料時,光在提示詞裡寫規則,無法確保它照做;一般紀錄也可能只是執行系統自己的說法。開源原型 Parmana 讓呼叫者先提出動作,再由閘道器依明確政策決定是否執行;需要時,還要等可信任金鑰簽署的人工核准。執行後會留下可用公鑰離線檢查的簽名紀錄。不過,直接繞過閘道器的動作不會被檢查,同一臺主機上能讀取環境資訊的程式仍可能取得連接器憑證,而且這個原型目前還不適合公開使用。