跳到正文

Agent AI 助理

讓模型自主規劃、呼叫工具、完成多步任務的技術方向——從 Claude Code、Manus 到各家 Agent 框架與評測基準的全部動態。

最新精選

第 141–160 條 · 共 845 條
11月18日週三
  1. LMSYS Org Blog76

    SGLang Summit 發表 SGLang v1.0 與 Miles v0.2,擴大推論和訓練支援

    AI 模型越來越大,AI 助理也會累積大量工作紀錄,讓推論和訓練更難在不同硬體上順利進行。SGLang Summit 發表 SGLang v1.0,聚焦提升正式環境的效率與擴充能力;Miles v0.2 則支援 NVIDIA 和 AMD GPU、Google TPU,並將強化學習擴充套件到圖片、影片和音訊。大會也分享多個部署案例,例如 Meta 表示,改用 SGLang 後 GPU 用量減少超過 2 倍。這些更新與案例呈現了團隊如何把實際部署需求帶回開源工具的開發中。

    推薦理由:SGLang 與 Miles 的更新涵蓋推論和強化學習,也整理了不同硬體與實際部署的經驗,可看出開源工具如何回應現場需求。

  2. Y Combinator70

    銀行家、顧問和投資人需要追蹤許多公司的訊息,還得判斷哪些新聞會影響工作。Model ML 為他們提供在公司內部系統和資料中運作的 AI 助理;有新訊息時,AI 助理會判斷是否重要、分析可能影響,並在幾分鐘內整理成符合該公司的格式。Y Combinator 表示,Model ML 完成 2.5 億美元 B 輪融資,估值為 15 億美元;第三季營收年增 12 倍,每日活躍使用者年增 26 倍。

    推薦理由:這筆融資訊息也交代 Model ML 如何把 AI 助理放進金融機構的內部系統,並主動分析金融從業者關注公司的新聞。

  3. Aravind Srinivas80

    處理複雜研究工作時,逐一交給不同模型可能花上不少時間。Perplexity 推出 Multiagent,可在 Computer 和 Teammates 中使用,開啟 Effort level 的切換選項後,讓 Fable 5.2 同時排程 Gemini 4 Carbon、GPT 6.1 Sol 和 Opus 5.5。官方表示,這適合財務研究、預測、預測市場,以及一起分析多份申報檔案;目前所有 Max 使用者都能在網頁版使用,手機版支援即將推出。

    推薦理由:Perplexity 讓 Fable 5.2 平行排程多個模型處理複雜任務,並列出財務研究與批次分析檔案等適用情境。

  4. Rohan Paul70

    讓 AI 助理代替不同的人參與 AI 政策討論,能讓更多人的意見進場,但發言方式也可能改變討論結果。研究團隊讓 AI 助理先訪談一個人,再代表那個人的看法,和其他 AI 助理討論 AI 安全預算。研究發現,訊息寫得較長或比較不合作的 AI 助理,會更能把預算討論拉向委託者的立場。746 位參與者也覺得由 AI 助理代為表達,比只向一個 AI 系統提供意見公平;研究認為,限制訊息長度並訂下共同的行為規則,有助減少強勢發言左右結果。

    推薦理由:研究比較不同發言方式對 AI 安全預算討論的影響,也調查參與者對公平性的看法,呈現多人意見由 AI 助理代為表達時可能出現的偏差。

  5. NVIDIA Newsroom Press Releases79

    NVIDIA 推出 Nemotron for Science,讓 AI 助理協助規劃科學實驗

    研究人員要做科學實驗,得安排模擬、執行程式,再確認結果,過程常需要反覆操作。NVIDIA 推出 Nemotron for Science,結合 Nemotron 3.5 Super VL、化學資料集和生命科學與化學的訓練方法,研究人員可在自己的 DGX Spark、工作站或超級電腦上執行。在 Argonne National Laboratory,一個用這套工具打造的 AI 助理從一句提示詞開始,規劃並測試假設、挑選模擬,找出兩個新的結合位點。這讓研究人員能在自己的系統上使用模型與資料來協助研究。

    推薦理由:Nemotron for Science 可在研究者自己的系統上運作,並結合實驗規劃與模擬,文中案例呈現 AI 助理協助科學研究的方式。

11月17日週二
  1. Hacker News (official RSS)76

    FrontierHarness Eval v1.1 比較 22 套 AI 助理工具,找出各模型的合適搭配

    同一套 AI 助理工具換上不同模型後,花費和任務通過率可能差很多。Runta 與 Baseten 用 5 個模型、22 套工具和 62 種終端機任務做比較,發現每個模型費用較划算的工具組合都不一樣;例如 Codex CLI 搭配 GLM-5.3 時,每次通過任務平均花費 $0.803,但換成 Kimi-K3 後,費用排名從第 1 名掉到第 16 名。結果也顯示,花更多錢不一定能讓任務更容易通過。作者建議,換模型時也用自己的任務測試工具組合,並留意執行步驟,因為每一步都會再次送出整段上下文。

    推薦理由:這項比較顯示,同一套 AI 助理工具搭配不同模型時,費用排名會大幅變動;選工具時應用自己的工作任務實測成本與通過率。

  2. Dev.to Top Tech76

    Vitaliy Dmitriev 示範如何在 Slack 核准 AI 助理指令,不必守在終端機前

    AI 助理準備好會改動系統的指令後,常得等人在終端機前按下核准,工作也跟著停住。Vitaliy Dmitriev 用一段 Bash 程式把核准流程移到 Slack 私訊:程式會送出完整指令,作者在訊息串回覆指定文字後,程式才把先前儲存的指令交回 AI 助理執行;若要修改指令,就得重新提出核准。這套做法目前只用於作者自行啟動的非正式環境工作,正式環境仍須在工作階段中核準。作者也提醒,指令雜湊無法固定執行時的環境,Slack 帳號與 AI 助理本身的許可權仍是安全關鍵。

    推薦理由:作者分享將指令核准移到 Slack 私訊的做法,也說明命令雜湊、時限與許可權邊界如何影響這套流程的安全性。

  3. Dev.to Top Tech77

    GitGuardian 盤點約 45 個可自動執行攻擊的開源 AI 助理框架

    把語言模型接上工具後,開源資安框架能自動執行一連串攻擊步驟,也可能被拿來搜尋公開程式碼中的機密。GitGuardian 閱讀程式碼並用 Shodan 盤點約 45 個框架,發現只有 Pojun、Cybermes、Xalgorix 和 AIRecon 內建可供 AI 助理使用的秘密掃描器,但都沒有 GitHub 抓取工具;由於許多框架仍能使用命令列和網路,模型可以在執行時自行串起這些步驟。研究也找到 11 個預設提供網頁介面的框架,部分公開服務缺少有效防護,防守者可先確認自家是否有服務暴露在網路上。

    推薦理由:這份盤點把約 45 個開源工具的秘密掃描能力與網路暴露情況放在一起,呈現防守方可先檢查的風險入口。

  4. Dev.to Top Tech81

    IFM 公開 K2-Horizon 六款模型及訓練資料,最大款有 375B 引數

    許多開放模型只提供權重,外界很難知道訓練資料怎麼來、模型又是怎麼做出來的。IFM 公開了 K2-Horizon 六款模型的權重、訓練資料、中途檢查點、訓練紀錄和製作資料的流程,也提供訓練與評估用的程式碼。模型從 0.9B 到 375B-A23B,適合不同規模的工作;其中 36B-A4B 使用的啟用引數較少,論文稱它的表現接近用相同資料訓練的 32B 模型。這些效能說法尚未經獨立測試,作者也沒有親自試用;公開資料讓人能研究和微調,但從頭重訓需要大量運算資源。

    推薦理由:K2-Horizon 同時公開權重、訓練資料與製作流程,讓人能檢視模型如何建成,也能比較不同規模的模型。

  5. OpenAI News66

    Revolut 與 OpenAI 合作,用 AI 加速金融風險篩查與產品開發

    很多人常會擔心金融交易被詐騙,或是開發新功能需要花很多時間。Revolut 把 OpenAI 的 ChatGPT、Codex 和 GPT‑5.5 變成 AI 小幫手,負責自動檢查交易、寫程式和整理檔案。這樣工程師不用手動跑每筆資料,就省下 30% 到 60% 的開發時間,能把更多精力放在設計和改進服務,同時讓客戶的資金更安全。

    推薦理由:文章說明AI讓Revolut以更快速度完成風險篩查,提升服務安全與效率。

  6. Dev.to Top Tech79

    四大科技公司同週開源 AI 代理基礎設施套件

    GitHub 週榜顯示,Google、NVIDIA、阿里巴巴、騰訊四家公司在同一週釋出針對 AI 代理的基礎設施程式碼,分別負責知識、評估、審查與治理層。這些開源工具讓代理能自動檢查安全、評估技能效益、使用決策規則,並在團隊環境中加入審核流程,降低模型本身的限制,對想打造可控且可擴充套件 AI 代理的開發者提供了可直接套用的參考。

    推薦理由:原文說明四大企業同時開源代理框架基礎設施,凸顯基礎層標準化競爭,適合評估自家代理工具的治理與評估流程。

  7. Dev.to Top Tech77

    AI 漏洞發掘:如果無法重播就不算成立

    很多人在測試時只能看到一行警示,卻沒法證明真的能取得別人的資料。作者介紹了 AI 輔助找出潛在漏洞的流程,並提出三道驗證關卡:先確認攻擊路徑可達,接著取得他人資料作為證據,最後讓第三方重現。文中還提供一個簡短的 Bash 指令碼,只要兩個租戶的 token 就能快速測試跨租戶匯出是否真的漏資訊,讓團隊在最小成本下驗證 AI 提出的假說。

    推薦理由:提供可快速驗證 AI 發掘漏洞的三關檢測指令碼,說明以最低成本自動化驗證流程的可行方法。

  8. Dev.to Top Tech76

    作者分享如何讓程式判斷監控問題,再由 LLM 解釋

    把監控交給 LLM 判斷,可能每次得到不同結果,也可能漏掉問題而不出聲。作者回頭檢查自家監控時,發現網站頁面曾有五個月沒出現在 Google 搜尋結果中,監控卻沒有抓到。後來他重做三種監控,讓程式依固定規則判斷問題、記錄狀態並發出緊急通知,再由模型整理結果和說明原因。價格檢查會等商品資料更新後再確認,避免短暫差異造成誤報;營運監控則先用舊資料重播測試,並在正式通知人之前以影子模式觀察。作者也提醒,監控本身停擺時應能發出警報,確保有人接手處理。

    推薦理由:作者以三種監控工具的實作經驗說明,如何用程式規則穩定判斷、讓模型負責解釋,並透過重播舊資料找出誤報。

  9. Together AI60

    要知道 AI 助理能不能完成工作,光看最後答案不夠,還得檢查它一路怎麼做。Together AI 的做法是先挑出約 10 個常見任務,讓 Claude Code 在隔離環境中執行,再比較基本設定、MCP 和技能三種組合,並檢查操作過程,據此改進檔案與 API。文中表示,任務完成率從 67% 提升到 96%。

    推薦理由:Together AI 用代表性任務比較不同設定,並檢查 AI 助理的操作過程來改進檔案與 API,呈現一套實作評估方法。

  10. Dev.to Top Tech79

    如何從零用 Python 打造 AI 助理,加入工具呼叫、記憶與安全防護

    AI 助理接上工具後,可能一直重複查資料,也可能聽從藏在客戶備註裡的惡意指令。這篇教學用 Python 從頭做出一個客服範例,示範如何限制呼叫次數、檢查工具和引數,並在退款等重要動作前交由人確認。它也說明怎麼儲存會話記錄與長期備忘、留下執行紀錄,再用固定情境檢查退款帳本等實際結果。範例使用不需 API 金鑰的假模型,方便重複測試;作者提醒,這些測試能檢查程式規則,無法回答真實模型多常犯錯。

    推薦理由:文章用退款客服的例子,展示如何替 AI 助理設定停止條件、工具許可權與人工核准,並用離線測試檢查實際結果。

  11. Pydantic AI Releases64

    Pydantic AI 發布 v2.69.0,更新 AI 助理工具與工作流程

    使用 AI 助理處理多步驟工作時,工具呼叫、重試和子任務若處理不一致,可能讓流程中斷或結果出錯。Pydantic AI 的 v2.69.0 加入 Gemini 4 Hydrogen 支援,也更新工具呼叫、沙箱工作區和子任務的處理方式,並修正多種模型連線、錯誤回報與重試問題。例如,串流內容若卡在反覆迴圈,現在可以偵測出來;部分子任務紀錄也會留在各自的檔案中。這次更新主要讓開發者更容易建立和維護能處理多步驟工作的 AI 助理。

    推薦理由:這次更新同時調整 AI 助理的工具呼叫、工作流程與錯誤處理,能從中瞭解 Pydantic AI 如何改善複雜任務的穩定性。

  12. Dev.to Top Tech82

    Tim Collinson 實測如何用 Cedar 擋下 AI 助理受工廠筆記操控

    工廠的停機紀錄可以讓 AI 助理查資料,但任何能輸入筆記的人,也可能把操作指令藏在裡面。Tim Collinson 在測試中放入 40 條惡意筆記,讓兩種模型回答工廠問題;Amazon Nova 2 Lite 曾因筆記要求而呼叫寫入 PLC 的工具,Claude Sonnet 4.6 則在使用者答應後才執行動作。他把 Cedar 政策放在工具閘道,檢查每次呼叫的物件與內容;測試中,未強制執行時有 13 次植入動作執行,強制執行後降為 0。不過政策管不到模型回答中的錯誤說法,也管不到人照著回答手動操作。

    推薦理由:實測比較顯示,Cedar 能在工具呼叫前擋下植入筆記要求的動作,也呈現守門規則無法處理錯誤回答與人工照做的風險。

  13. Rohan Paul66

    團隊使用不同 AI 助理時,費用分散在各家服務商的帳單裡,很難看出每個助理各花了多少。NasiKo Labs 推出 Open Runtime 平臺,能安裝在團隊現有的 AI 助理底下,不必修改程式碼或加入 SDK,並按團隊、助理、模型和工作階段整理 Token 費用,也能細分到 MCP 工具和個別執行工作。花費達預算的 80% 時,平臺會發出提醒;達到上限後,會暫停該 AI 助理。

    推薦理由:各家服務商的帳單分開列出,團隊難以看清 AI 助理各自花了多少;這項平臺能按 AI 助理與工作階段拆分支出,並在預算用完時暫停運作。

  14. AWS Machine Learning Blog69

    AWS 說明多個 AI 助理如何分工,以及製造業常見的設計錯誤

    多個 AI 助理一起工作,步驟變多後,出錯和花費也可能跟著增加。AWS 把分工方式分成兩大類:一類是先排好固定流程,另一類是讓模型在工作中決定下一步;文章建議先用固定流程,只有工作步驟無法事先確定時,再考慮讓模型自行安排。文章也提醒,重試要設上限、不同助理交接時要用清楚的資料格式,會影響裝置或客戶的動作則應經過檢查與人工核准。在製造現場,還要把延遲、安全和裝置端資料納入設計。

    推薦理由:文章用製造現場的延遲、安全與資料限制,說明如何從固定流程開始,再判斷何時需要讓 AI 助理自行安排工作。

  15. AWS Machine Learning Blog76

    AWS 示範如何用 Amazon Bedrock 建立會記住使用者的 AI 助理

    企業 AI 助理要回答員工問題,常得記住先前對話,又要確保每個人只看到有權閱讀的檔案。AWS 示範用 Amazon Bedrock Managed Knowledge Base 搭配 AgentCore memory,讓服務儲存對話、整理使用者提過的資料,並在回答時找出相關記憶與檔案。範例用 Cognito ID token 確認使用者身分,再用檔案存取清單和 IAM 條件限制資料範圍;例如員工先前提過辦公地點,之後詢問休假規定時,助理便能依這項記憶回答。記憶整理可能要等一段時間,若記憶讀取失敗,服務仍會根據可讀取的檔案回答。

    推薦理由:文章以員工助理示範如何把對話記憶、檔案許可權和使用者身分串在一起,並用 IAM 條件限制每位使用者能讀取的記憶。