跳到正文

Agent AI 助理

讓模型自主規劃、呼叫工具、完成多步任務的技術方向——從 Claude Code、Manus 到各家 Agent 框架與評測基準的全部動態。

最新精選

第 1–20 條 · 共 844 條
今天11月23日週一
  1. Dev.to Top Tech77

    Cairn 案例揭露 AI 助理攻擊手法,作者整理九項伺服器防護檢查

    AI 助理能長時間反覆嘗試攻擊,伺服器若少了登入保護或檔案路徑檢查,就可能被利用。作者根據 Amazon 公佈的 Cairn 案例整理防護清單:其中兩次攻擊沒有成功,另一次利用 MONAI Label 的路徑穿越漏洞寫入檔案,之後取得 root 許可權。MONAI Label 0.8.6 已修補這個漏洞;文章也建議開啟驗證、限制服務可寫入的資料夾、避免以 root 執行服務,並留意長時間且重複的登入或請求。作者沒有親自重現攻擊,清單中的程式範例也只用小型合成資料檢查,偵測門檻仍需依實際流量調整。

    推薦理由:文章把 Cairn 案例中的成功與失敗,整理成九項伺服器檢查做法,涵蓋修補漏洞、限制服務許可權與從紀錄辨認長時間嘗試。

  2. Dev.to Top Tech84

    OpenRouter 下架 3 家推論服務商,125 個端點失去零資料保留資格

    企業把對話、程式碼或檔案交給 AI 服務時,提示詞可能經過多家服務商,零資料保留標示也不一定能保護資料。OpenRouter 表示,Dragos 研究人員在近 200 萬則提示詞中放入專屬網址和憑證,發現部分服務商發生資料外洩,或沒有遵守資料保留政策。OpenRouter 因此下架 3 家推論服務商,並取消 125 個端點的零資料保留資格,也通知可能受影響的客戶。OpenRouter 說,自身沒有遭入侵;若曾把密碼或 API 金鑰放進經 Phala 或 Novita 轉送的提示詞,應依相關事件通知更換憑證並檢查帳戶。

    推薦理由:Dragos 以埋入提示詞的網址與憑證追查資料流向,揭露供應商遭入侵或未遵守零資料保留承諾時,客戶提示詞仍可能外洩。

11月22日週日
  1. Dev.to Top Tech79

    OpenCode 2.0 讓終端機、桌面和網頁版共用工作進度

    在不同介面間切換時,程式工作和進度常得重新接手。OpenCode 2.0 把終端機、桌面和網頁版接到同一個背景服務,共用工作階段;你也能把程式碼審查交給另一個模型的子助理在背景處理,自己繼續工作。MCP 伺服器預設使用 Code Mode,讓 AI 助理把多個工具組合成一段程式碼;工作進行中,AI 助理也能替自己寫外掛。升級前請先閱讀遷移說明。

    推薦理由:OpenCode 2.0 把終端機、桌面和網頁版接到同一個背景服務,並讓子助理能在背景處理程式碼審查,呈現了多種工作方式如何接續。

  2. Dev.to Top Tech82

    Signal 的截圖防護擋不住 AI 助理讀取通知和螢幕

    Signal 在手機 App 加上截圖防護,但 AI 助理仍可能透過通知或無障礙許可權讀取訊息。作者整理 Signal 的設定與一宗 Meta Muse 案例:Reuters 報導指出,Muse 曾透過 Android 通知和 macOS 無障礙許可權讀到 Signal 訊息;Meta 稱這些是個別事件。截圖防護能擋住畫面擷取,卻不會關閉通知或無障礙許可權;macOS 也沒有可靠的 Signal 內建封鎖方式。文章提醒,除了檢查 Signal 的設定,也要留意 AI 助理有哪些裝置許可權。

    推薦理由:Signal 的截圖防護只擋住一種讀取方式;文章對照已報導的通知與無障礙許可權案例,說明防護範圍的落差。

  3. Dev.to Top Tech88

    MONAI Label 上傳漏洞如何讓攻擊者寫入檔案並取得伺服器控制權

    MONAI Label 0.8.5 和更早版本的上傳功能,會把使用者提供的路徑當成檔案位置,沒有確認檔案仍在資料儲存區內。Amazon 表示,攻擊者利用這個漏洞寫入檔案,再觸發訓練 API,取得伺服器的 root 許可權;研究者也指出,這條攻擊路徑約 11 分鐘就能成功。漏洞修補已合併到程式碼,但截至文章查詢時,PyPI 和 GitHub 都還沒有可安裝的新版本。作者建議檢查目前使用的版本,並避免讓 MONAI Label 連上網際網路或不受信任的網路。

    推薦理由:文章拆解 MONAI Label 如何因上傳路徑檢查不足而遭入侵,也指出修補雖已合併,當時仍沒有可安裝的新版本。

  4. Dev.to Top Tech76

    StudioVisualIdentity 用一個提示詞打造 18 種短影片風格

    自己做短影片時,常會不小心用上和別人很像的版型、字幕和動畫。作者開源了 StudioVisualIdentity,整理出 18 種視覺風格,每種都有設計規則和實際做出的短片,也提供一個提示詞,讓 AI 助理挑選風格並建立新的製作專案。作者還比較了兩種判斷風格是否不同的方法:看顏色和線條的程式測試把 4 支短片分錯,盲測則把 72 個畫面全都分對。這提醒我們,判斷視覺風格不能只看配色,還得看形狀、字型和呈現方式。

    推薦理由:這個專案把 18 種短影片視覺風格整理成 AI 助理可讀的設計資料,並用盲測結果說明單看顏色與邊緣容易誤判風格差異。

  5. LangChain Blog60

    LangChain 分享如何打造 AI 助理可用的知識工廠

    AI 助理要替公司做事,光有模型和資料還不夠,還得知道公司的做事規矩、資料放在哪裡,以及該怎麼查。LangChain把這套整理流程稱為知識工廠:AI 助理工作時遇到缺資料或錯誤,可以先回報問題,再由背景執行的整理助理檢視檔案、資料來源和工作紀錄,更新相關指引。以營收報表為例,助理發現資料欄位改名時會回報,也能把財務主管提供的新格式要求整理進報表指引,讓之後的工作更順。LangChain建議從一項常做的工作開始,觀察 AI 助理卡在哪裡,再逐步補上缺少的知識。

    推薦理由:LangChain以營收報表為例,說明如何讓AI助理回報知識缺口,再由整理助理依據資料來源與工作紀錄更新指引。

  6. Lobste.rs (Engineering Discussion)87

    Dragos 用假憑證追查 AI 服務流向,發現提示詞外洩與資料遭竊

    把工作內容交給 AI 服務後,提示詞可能經過多家公司,隱私設定也不一定能管到每一站。Dragos 研究團隊在約五個月內送出近兩百萬則含有專屬假網址與憑證的提示詞,追蹤它們後來被誰碰觸,發現三家服務供應商遭入侵、部分轉售商能檢視並保留客戶提示詞,也有供應商未遵守資料保護設定。研究團隊建議敏感工作盡量直接使用一線服務商、謹慎挑選轉送服務,並放入不會用於真實系統的假憑證;一旦有人嘗試使用,就能追查提示詞是否外流。

    推薦理由:研究團隊用獨一無二的假網址與憑證追查提示詞流向,呈現供應鏈各環節可能如何暴露客戶資料。

11月21日週六
  1. Dev.to Top Tech78

    OpenAI 如何用 Codex AI 助理找出並修正 ChatGPT 效能退化

    ChatGPT 變慢時,工程師需要找出是哪裡出了問題,也得確認修正後效能是否恢復。OpenAI 建了一套雲端流程,讓 Codex AI 助理調查效能警報、記下線索並提出修正,再由另一個 AI 助理檢查效能是否回到原本水準。為了避免太快接受看似合理的答案,團隊也安排另一個 Codex 工作階段挑戰診斷,檢查假設和反例;工程師仍會審查修正並決定是否合併。OpenAI 表示,這套流程在三個多月內追蹤了超過 1,700 次調查、找出超過 600 個問題根因;人工檢查 100 項根因建議後,70% 判定準確,其餘仍需修正或未能確認因果。

    推薦理由:OpenAI 的資料顯示,分工調查與反向查核能找出效能退化原因,但 30% 的判斷仍需修正或未能確認因果。

  2. Dev.to Top Tech82

    Claude Code Hooks 教學:哪些錯誤該用 Hook 擋下,怎麼做才有效

    只把規則寫進說明檔,Claude Code 有時還是會重複犯錯。作者分享自己用 Hook 擋下五種問題的方法,包括草稿出現長破折號、回覆語言錯誤、貼文發到錯的帳號,以及沒確認就說問題已修好。Hook 是在固定時機執行的小程式,可以在工具動作發生前拒絕操作,也能在回覆送出前要求重寫。作者建議先在實際出錯的情況中找原因,再讓檢查直接擋下動作,最後故意重現錯誤,確認 Hook 真的會啟動,也不會妨礙正常工作。

    推薦理由:作者用五種反覆出錯的情境,說明如何找出真正原因、設下會阻止動作的檢查,並刻意測試它是否生效。

  3. Dev.to Top Tech76

    Gemini 4 Hydrogen 和 GPT-6.1 Terra 評測:Hydrogen 在 9 項共同基準中贏了 8 項

    挑模型時,分數較高的選項也可能比較貴,而且公開測試不一定符合自己的工作。作者比較 Gemini 4 Hydrogen 和 GPT-6.1 Terra 在 Google 模型卡上都有分數的 9 項基準,Hydrogen 贏了 8 項,Terra 則在科學類終端機測試勝出;這些結果由 Google 執行,兩款模型的測試條件可能不同。依文中列出的標準 API 費率,輸入 2,000 萬、輸出 500 萬 token,每月費用分別是 $67.50 和 $45.00。文章建議用自己的工作測試分數、費用和成功率,再決定怎麼選。

    推薦理由:文章把兩款模型的公開基準分數、每百萬 token 費用與月用量試算放在一起,呈現選擇時效能和成本的取捨。

  4. Dev.to Top Tech76

    DeepSeek API 開放多種工具,文章比較 Flash 和 V4-Pro 怎麼選

    自己串接網路搜尋、讀取檔案和網址等功能,常得另外處理工具怎麼運作與收費。DeepSeek API 把這些工具整合進服務,開發者可用引數啟用;搜尋、讀取網頁和 OCR 等費用會另外計算。文章比較 deepseek-flash 和 deepseek-v4-pro:Flash 支援圖片,離峰時每 1M 個輸出 token 收 $0.60,V4-Pro 則收 $1.98;Flash 的同時處理上限也較高。V4-Pro 適合小規模、只處理文字的複雜推理工作。若服務面向大眾,DeepSeek 要求開啟安全檢查,內容審查等責任仍由開發者承擔。

    推薦理由:文章整理 DeepSeek API 新工具的收費與使用限制,並比較 Flash 和 V4-Pro 在圖片處理、價格及同時處理量上的差異。

  5. AWS Machine Learning Blog69

    AWS Quick 更新流程、網頁工作區與多個 AI 助理協作功能

    團隊的工作流程常靠某個人記在腦中,其他人接手時容易重做,成果也不一致。AWS Quick 這次更新後,使用者可以用聊天描述工作流程,讓 Quick 串起 AI 助理、技能、工具和資料;例如把每月財務報告的計算、檢查和草稿整理成團隊可共用的流程,再由人檢查並核准。新版網頁也能整理待處理事項,並在關閉瀏覽器後繼續執行工作;多個專門的 AI 助理還能分頭處理同一個請求。管理員可設定提示詞防護政策,Quick 也新增 Meta ads 和 Amplitude 連接器。

    推薦理由:Quick 把流程自動化、多人協作與網頁工作入口整合在同一套更新中,文中的月報例子展示了固定計算與人工審核如何搭配。

  6. AWS Machine Learning Blog68

    AWS 的分散式 KV 快取技能,幫忙評估與設定 LLM 快取

    自架大型語言模型時,不同 GPU 伺服器若沒有共用對話紀錄,使用者回來接續工作時,伺服器就得重新計算,讓第一個回應變慢。AWS 介紹一項分散式 KV 快取技能,可在支援技能的程式開發 AI 助理中,先檢查工作負載是否適合,再估算快取成本、協助設定 Amazon ElastiCache,或排查傳輸問題。文章也提醒,短提示詞可能不適合用快取;是否划算要看提示詞重複情況與實際流量,釋出的 GPU 時間也只有在減少伺服器或承接更多流量時,才會轉成省下的費用。

    推薦理由:文章以四段實際操作說明技能如何先估算工作負載是否適合,再協助設定與排除故障,呈現從評估到部署的完整流程。

  7. Google Research70

    Google 把 Duplex 電話功能帶進 Gemini Tasks,替使用者聯絡商家

    訂位或預約常得打電話,商家可能臨時改口、提出別的時段,電話環境也常有背景雜音。Google 將 Duplex 整合進 Gemini App 的 Tasks,讓它能代替使用者打電話處理日常事務,並用 Gemini 理解需求、安排步驟和接續對話。這套系統從只能處理固定任務,逐步發展到能依文字描述應付不同需求,例如配合行事曆空檔安排汽車保養。每通電話一開始都會說明是 Google 的自動化系統,商家也能選擇不接這類電話。

    推薦理由:Duplex 從固定任務的專用模型,逐步演進為由 Gemini 統整理解、規劃與對話的系統,呈現它如何處理電話中的臨場變化。

  8. Replit ⠕67

    開發一項工作時,常得自己安排規劃、建置和測試。Replit 推出 Missions,使用者先設定想達成的結果、預算和限制,再由多個 AI 助理分工處理並反覆調整;文中舉例,可以要求它協助找到第一批 10 位客戶。Replit 也更新了 Microsoft Fabric 整合、Teams 服務和 Replit Desktop 的本機工作功能。文中提到,一名早期測試者花 $35 執行一項 Mission,五天後促成 $25K 的交易。

    推薦理由:Replit Missions 讓使用者設定目標、預算與限制,再由多個 AI 助理分工規劃、建置和測試,呈現了以成果安排開發工作的做法。

  9. aihot74

    Google 把 Duplex 整合進 Gemini Tasks,讓 AI 助理替你打電話給商家

    訂餐、約時間常得直接打電話,但商家可能改口、背景又很吵,AI 得接得上話,也不能搶著開口。Google 回顧 Duplex 十年來的變化,並把它整合進 Gemini App 的 Tasks,讓 AI 助理依照使用者交代的事情致電商家;現在系統使用 Gemini 處理理解、規劃和對話,也能在商家提出其他時段時調整安排。電話一開始會說明是 Google 的自動系統,商家也能選擇不接這類電話。商家不用安裝軟體或改變原本接電話的方式。

    推薦理由:Duplex 從固定流程走向 Gemini 統一架構,也說明電話服務得同時處理對話節奏、背景噪音與商家拒絕等現場狀況。

  10. Replit ⠕61

    雲端 AI 助理在瀏覽器裡執行時,碰不到電腦上的本機檔案和工具。Replit Desktop 讓模型在雲端執行,程式碼則在使用者的電腦上,並透過 Microsoft Execution Containers 提供的沙盒運作。使用者可以選擇 AI 助理能存取哪些資料夾,讓它配合手邊的檔案和工具工作。

    推薦理由:Replit Desktop 把雲端模型和電腦上的程式碼分開執行,並讓使用者選擇 AI 助理能讀取哪些資料夾,呈現了本機檔案與雲端開發工具的協作方式。

  11. Google Developers Blog69

    Google 推出 Semantic governance policies,在 AI 助理執行工具呼叫前檢查是否合規

    AI 助理有權讀取檔案和寄信,不代表每次操作都符合公司規定。Google 在 Gemini platform 預覽推出 Semantic governance policies,透過 Agent Gateway,在工具呼叫執行前檢查它是否符合使用者原本的要求和企業用白話寫下的規則。比如財報公開前,系統可以擋下把數字寄給投資人或私人信箱的要求,也能攔住檔案裡偷偷塞進、沒人要求的刪檔指令。每次判斷和理由都會記錄在 Cloud Logging;由於判斷使用 LLM,結果可能不同,Google 建議先用 dry run mode 檢查,再啟用阻擋。

    推薦理由:文章以財務郵件為例,說明如何在工具呼叫執行前同時檢查使用者原意與企業規則,並留下可供稽核的判斷紀錄。

  12. hackernews10086

    Inkling 2 Mini 發布,可在筆電上執行的開放權重模型

    模型要處理需要多步推理的工作,常得花更多時間或寫下更多推理內容。Inkling 2 Mini 會把模型中間的部分重複運算三次,作者表示,這讓它能用較少的 token 處理程式開發等任務;模型總引數為 26.4B,記憶體佔用約 20GB,也能在筆電上離線執行。它在多項同尺寸開放權重模型的程式與搜尋測試中表現突出,權重已公開;不過,多輪聊天和需要遵守許多限制的指令仍是弱項。作者也測試了重複運算對推理內容監看的影響,初步結果沒有顯示監看能力明顯變差。

    推薦理由:Inkling 2 Mini以反覆運算的架構提升推理能力,文中也比較了它在程式任務、長篇推理與監看能力上的表現。