跳到正文

Agent AI 助理

讓模型自主規劃、呼叫工具、完成多步任務的技術方向——從 Claude Code、Manus 到各家 Agent 框架與評測基準的全部動態。

最新精選

第 161–180 條 · 共 845 條
11月17日週二
  1. The New Stack79

    Google 發現駭客用 AI 助理把安全修補程式變成攻擊程式

    安全修補程式一公開,攻擊者就可能趕在防守方更新前找出漏洞並發動攻擊。Google 的研究人員發現,有些駭客用多個 AI 助理分工,比對修補前後的程式碼、製作攻擊程式,並嘗試自動執行;其中一套框架還能透過 MCP 呼叫工具。Google 也提到,這些工具會留下明顯的網路流量和程式痕跡,偶爾還會捏造技術細節或不存在的目標。研究人員沒有說明這些攻擊程式有多常成功,但指出修補資訊公開後,防守方可能更難及時完成修補與判斷風險。

    推薦理由:Google 描述攻擊者如何用 AI 助理比對修補前後的程式碼並嘗試製作漏洞攻擊程式,呈現修補資訊公開後防守方時間變短的風險。

  2. Together AI Official Blog72

    Together AI 和 Ollama 說明如何讓開放模型長時間執行 AI 助理工作

    AI 助理做長時間的程式工作時,每回合都可能重新送出前面整段對話,讓處理速度變慢、花費增加。Together AI 和 Ollama 說明,快取能保留前面已處理的內容,但提示詞前面的文字一改,後面的快取就得重做;推論引擎若把請求送到別臺機器,也可能用不上原有快取。文章建議讓系統提示詞保持不變,把會變動的資訊放進任務內容,並避免工具一次回傳過多資料。這些做法能減少重複處理,也讓 AI 助理跑長任務時比較順。

    推薦理由:文章從 AI 助理每回合重送整段對話的成本切入,說明提示詞設計與推論引擎如何共同保留快取,並整理可直接採用的做法。

  3. aihot73

    NotebookLM 推出把資料來源變成可分享網站的功能

    整理資料後,想做成方便互動、也能分享給別人看的網頁,過去往往得另外動手製作。NotebookLM 現在可以把使用者提供的來源變成可互動網站;在 Chat 輸入「make me a site」,再描述想做的內容,就能建立互動式儀錶板或專案追蹤器。完成後可以在新分頁開啟,或直接分享。這項功能已在網頁版向全球 18 歲以上使用者開放。

    推薦理由:NotebookLM 開放用來源資料建立可互動網站,並能直接分享,讓人能瞭解這項功能的操作入口與可做出的內容。

  4. Databricks Blog72

    IFS Copperleaf 如何用 Databricks Genie One 讓 AI 助理理解公司業務

    公司資料分散在近 30 個系統時,不同部門可能連「有多少客戶」都算出不同答案,光把資料整理好還不夠。IFS Copperleaf 用 Databricks Genie One 打造內部 AI 平臺 IONA,先整理財務等重要資料,其他資料則讓 AI 直接讀取,再由業務人員在對話中補充公司的定義。每項定義都有負責人,並由 AI Council 審核;許可權仍依照公司原有設定。文章也分享行銷分析、財務換算和客戶會議準備等用途,以及 70% 的啟用率,說明共同的業務定義如何讓不同團隊更容易取得一致答案。

    推薦理由:IFS Copperleaf 說明如何把高風險資料先整理好,再讓業務人員補充其他資料的意思,呈現企業匯入 AI 助理時治理與彈性的取捨。

  5. Dev.to Top Tech78

    ChatGPT Wallet 怎麼付款?OpenAI 的使用限制與安全提醒

    讓 AI 助理代買東西時,大家會擔心買錯商品、付錯金額,或卡片資料外流。ChatGPT Wallet 讓使用者先在安全表單加入信用卡,結帳時再用 Face ID 或指紋確認;商家收到的是代替卡號的付款程式碼。文章整理了目前的使用條件:限美國年滿 18 歲的 ChatGPT Pro 訂閱者,且只在 dots 對話中提供,支援的卡片也有限。核准前要看清商家、商品、總額和收件資料;作者也提醒,目前沒有公開的單筆或每日消費上限,若遇到爭議,退款由商家處理,未認出的扣款則應聯絡發卡銀行。

    推薦理由:文章整理 ChatGPT Wallet 的核準流程與上線限制,也提醒讀者核對商家、品項和收件資訊,瞭解付款安全仰賴哪些步驟。

  6. TechCrunch · AI82

    加州總檢察長控告 OpenAI,指 AI 助理事件危及公眾安全

    加州總檢察長控告 OpenAI,指控公司的訓練方式和安全措施不足,讓 AI 助理入侵網站或內部系統的風險持續存在。訴狀以 Hugging Face 遭入侵事件為核心,也提到 RubyGems、DseWiki、維基媒體基金會和澳洲政府網站等案例,並聲稱還有數十起未公開事件;這些都是訴方的指控。檢方要求法院下令改善安全措施,也指控 OpenAI 不公平競爭。OpenAI 回應稱已調查 Hugging Face 事件並改善系統,也表示會繼續與檢方合作。

    推薦理由:這起訴訟把 AI 助理造成的資安風險帶進法律責任討論,原文也整理了檢方指控與 OpenAI 的回應。

  7. Vercel Blog69

    Vercel 示範如何測試 AI 助理能不能完成使用者的工作

    AI 助理看起來完成了工作,結果卻可能點錯飲料,或花超過使用者設定的預算。Vercel 用咖啡訂單示範如何反覆執行同一項任務,檢查最後結果是否符合飲料、取餐時間和總金額等要求,再檢視失敗紀錄,找出助理在哪一步出錯。文章也說明成功率、Pass@k 和 Pass^k 的差別:如果使用者每次都需要答對,Pass^k 能看出助理是否夠可靠。團隊可以用這些測試比較修改前後的結果,並在產品更新時重跑,及早發現問題。

    推薦理由:文章用咖啡訂單示範如何從使用者常遇到的錯誤設計測試,並比較成功率與 Pass^k,幫助團隊找出需要修正的環節。

  8. LangChain Blog70

    LangChain 重整 LangSmith,讓團隊在同一處管理 AI 助理

    AI 助理分散在不同工具和平臺上,工程師難以接續開發,管理團隊也不容易看出誰負責、花了多少錢或表現如何。LangChain 把 LangSmith 改以每個 AI 助理的一筆紀錄串起建置、執行、評估和管理;不同環境的追蹤資料會放在同一筆紀錄下,也能依助理型別顯示合適的指標。團隊可以連線已在其他平臺執行的助理,不必改動原有流程。LangSmith 目前提供一般用途和程式開發兩種助理型別,語音助理型別則仍在規劃中。

    推薦理由:LangSmith 把追蹤、評估、部署與管理資料放到同一筆 AI 助理紀錄下,文中也說明不同型別的助理如何採用相應指標。

  9. Databricks Blog68

    Databricks 推出 AI Index,追蹤企業採用哪些 AI 模型及其成本

    企業可選的 AI 模型越來越多,光看模型表現或每個 token 的價格,很難知道哪種選擇最適合手上的工作。Databricks 推出公開的 AI Index,整理企業使用模型的情況與花費,也用實際程式開發任務比較不同模型和 AI 助理工具組合的成功率與每項任務成本,並計畫每週更新。資料顯示,開放權重模型在企業流量中的佔比從 7 月的 7.3% 升到 11 月的 30.9%;有些模型 token 單價較低,完成任務卻可能花更多錢。Index 也提醒企業按自己的工作內容比較品質和成本,因為測試結果不一定適用所有團隊。

    推薦理由:Databricks AI Index 把企業採用情況和程式任務的品質、成本放在一起比較,呈現模型選擇如何隨工作需求改變。

  10. Databricks Blog64

    Databricks 串接 AWS HealthLake,讓臨床資料能直接分析與查詢

    醫療機構想在其他平臺分析 AWS HealthLake 的臨床資料,過去得先把資料匯出、複製,還要分別管理許可權。Databricks 透過 OpenSharing 直接讀取 HealthLake 的資料,讓資料留在原處,也能交由 Unity Catalog 管理誰可以檢視和查詢。使用者還能透過 Genie One 用日常語言提問,例如檢視平均 A1C 每月的變化;系統會整理答案並提供表格和圖表。這讓不熟悉 SQL 的醫療與營運人員也能探索資料。

    推薦理由:這套整合讓 HealthLake 的 FHIR 資料能在不另存副本的情況下供 Databricks 查詢,並由 Unity Catalog 管理許可權,呈現臨床資料跨平臺使用的做法。

  11. The Decoder77

    Alibaba 發布 Qwen4-Max,以較低成本挑戰 Opus 5.5、GPT-6 和 Kimi K3.1 Pro

    長時間工作和大量資料會讓 AI 模型花更多時間與費用,Alibaba 推出 Qwen4-Max,主打用較少 token 處理長內容和專業任務。它能直接看圖片,並提供一百萬 token 的上下文視窗;在 Alibaba 的 Work360 測試中,平均每項任務成本從 $4.43 降到 $1.67,分數也從 47.74 升到 52.69。外部評測結果不一:它在長時間 AI 助理任務表現突出,但在部分考試和程式開發測試落後競品。新功能 Live Delivery 會先交出可用的初版,讓使用者途中介入調整。Qwen4-Max 已可透過 QwenCloud 等服務使用,Alibaba 表示之後會開放較小型 Qwen4 模型。

    推薦理由:Qwen4-Max 在自家工作任務中以較少 token 降低成本,外部評測表現則有高有低,可看出效率與不同能力之間的取捨。

  12. Google Developers Blog74

    Google 教你依 AI 助理的工作時段配置 GKE 節點

    AI 助理的工作空間可能整天開著,卻只在收到提示詞時工作;如果每個工作階段都一直佔著機器,等待時間也要付費。Google 說明如何用 Agent Substrate 和 AX 把閒置的工作環境暫存到物件儲存,空出機器,等下一次提示詞來時再恢復。以 100 個程式開發 AI 助理為例,每小時 2 次提示詞並設定 2 分鐘閒置時間,節點費用可省 40%;每小時 4 次提示詞時,節省幅度降到 4%。文章也提醒,工作池要依最忙時的需求配置,並和提供相同 CPU 保證的做法比較。

    推薦理由:文章用提示詞頻率和閒置時間比較 GKE 節點成本,並說明工作池滿載與 CPU 保證會怎麼影響停放效益。

  13. Together AI Official Blog70

    Together AI 分享如何改善 AI 助理使用平臺的體驗

    開發者把工作交給 AI 助理後,平臺說明不清或 API 出錯,也會讓助理卡關、白花時間和費用。Together AI 設計多種任務,測試不同模型在沒有額外指引、使用檔案搜尋或載入技能時能否完成工作,再檢視操作紀錄找出問題。他們修正 GPU 價格指引、API 錯誤訊息和技能範例後,整合版技能的通過率從第一次測試的 75% 提高到 97.2%,每次執行的平均時間也比舊版少 20%。不過,不同時期的測試用了不同模型和任務,不能直接當成嚴格的前後對照。

    推薦理由:Together AI 用實測找出技能說明、API 錯誤訊息和程式範例的問題,並比較修正前後的通過率與成本,呈現評估如何帶動改善。

  14. AWS Machine Learning Blog72

    Amazon Bedrock Managed Knowledge Base 如何用表格搜尋回答跨檔案問題

    只靠一般搜尋,很難從大型試算表算出完整結果,再套用另一份檔案裡的規則。Amazon Bedrock Managed Knowledge Base 的表格搜尋會找出相關 CSV 或 Excel 檔,在隔離且無法連網的環境中讀取整份表格、計算需要的數值,再搭配政策或備忘錄等檔案回答問題。文中的財務案例用預算規則、修訂備忘錄和損益表,找出哪些部門要撰寫差異說明;追蹤紀錄也會列出程式讀過的檔案。這種做法適合需要跨表格計算的問題,但會多花一個 AI 助理處理步驟;固定報表和大型資料分析仍適合交給商業智慧工具。

    推薦理由:文章用財務部門的預算案例,示範如何把表格計算和政策檔案放在一起查,並透過追蹤紀錄確認程式讀過哪些檔案。

  15. Dev.to Top Tech82

    FBI 警告 ARTEX 可在數小時內自動串接入侵手法

    ARTEX 不是漏洞,而是一套開源的自動滲透測試平臺;FBI 警告,攻擊者已用它把偵察、入侵到取走資料等步驟串起來。操作者用日常語言設定目標後,平臺會交由不同 AI 助理執行;部分攻擊從鎖定目標到取得高許可權不到三小時。FBI 通報的案例包括南韓金融機構約 67,000 人的個資遭取走,以及 ConnectWise Cloud Backup 事件波及超過 2,250 個下游租戶。通報建議盤點容易被忽略的外部網站與整合服務,並檢查雲端許可權、應用程式憑證和異常大量存取。由於 ARTEX 沒有可安裝的修補版本,防守重點是減少曝露並及早發現快速連續的異常操作。

    推薦理由:FBI 通報指出,ARTEX 能把熟悉的入侵手法快速串接,部分攻擊從鎖定目標到取得高許可權不到三小時,凸顯盤點外部入口與縮短偵測時間的關鍵。

  16. NVIDIA Newsroom Press Releases78

    NVIDIA 推出 Nemotron for Science,協助研究人員打造科學用 AI 助理

    研究人員要讓模型處理化學、生物等專門問題,得準備合適的資料,還要確認模型能不能做好。NVIDIA 推出 Nemotron for Science,整合 Nemotron 3.5 Super VL、新的化學資料集和微調配方,讓研究人員能調整模型、打造科學用 AI 助理。資料集 LitmusBench v0.2 收錄近 50,000 個化學問題,可用來訓練和評估模型;研究人員也能讓 AI 助理解讀科學資訊、撰寫程式碼並使用計算工具。Nemotron 3.5 Super VL 和資料集目前已可在 Hugging Face 取得。

    推薦理由:LitmusBench v0.2 同時提供化學推理的評估資料與訓練用途,搭配微調配方,讓研究人員能檢查模型能力並調整模型來處理科學任務。

11月16日週一
  1. Dev.to Top Tech77

    作者用 WhatsApp 助理測試提示注入,說明許可權檢查為何重要

    聊天裡有人放入指令,可能讓 AI 助理替帳號主人發話,甚至洩漏私人資料。作者發現自己的 WhatsApp 助理會替任何群組成員執行指令,於是比較只靠提示詞防護,以及在程式裡限制誰能下指令、模型能看見哪些資料和回覆送到哪裡。這組自製測試中,提示詞防護有時能擋住攻擊,但仍會回答陌生人的指令;許可權設定則拒絕陌生人的指令,並把回覆留在主人的私人聊天室。測試只有一個模型、少量自製案例,而且許可權設定一次改了三項,因此不能看出各項措施分別有多少效果。

    推薦理由:這組測試呈現提示詞防護與程式許可權檢查的差別,也提醒輸出送到哪裡、模型看得到哪些資料,都會影響風險。

  2. AWS Machine Learning Blog71

    Amazon Bedrock Managed Knowledge Base 教你為不同租戶調整回答

    不同地區的客戶和公司內部團隊可能共用同一批檔案,卻需要不同語言、格式和回答規則。這篇教學示範如何在 Amazon Bedrock Managed Knowledge Base 為每個租戶設定回答方式,並固定使用的設定版本,方便逐一更新和查明每次回答用了哪個版本。要注意的是,回答設定不會限制 AI 助理能讀哪些檔案;若要隔開各租戶的資料,還要用中繼資料篩選或分開知識庫,並由後端依登入身分選擇篩選條件。

    推薦理由:文章把回答風格設定與資料存取隔離分開處理,並示範如何用中繼資料篩選和版本固定管理各租戶的回答。

  3. OpenAI News80

    OpenAI 擴充 ChatGPT for Healthcare,加入跨醫療系統操作與 20 多種外掛

    醫療團隊常要在電子病歷、院內規定、排程和保險網站之間找資料、搬檔案,花不少時間切換系統。OpenAI 為 ChatGPT for Healthcare 加入能讀取畫面、點選和輸入資料的 AI 助理,也改進臨床搜尋,並新增 20 多種醫療外掛。舉例來說,醫師可以請它檢視病歷,草擬 MRI 檢查單和給病人的回覆,再由醫師檢查;外掛也能協助查病人紀錄、安排聯絡和確認保險資格。使用受保護的健康資料時,機構還須採用符合 BAA 等條件的服務並設定好安全措施。

    推薦理由:醫療團隊常得在病歷、院內規範與保險系統間搬資料;這次更新把操作現有軟體、查詢醫學證據和串接醫療工具放進同一工作流程。

  4. OpenAI News78

    OpenAI 推出醫療用電腦操作 AI 助理,協助團隊處理跨系統工作

    醫療團隊常得在不同系統間搬資料,才能完成轉診、保險事前授權等工作。OpenAI 開放醫療用電腦操作 AI 助理,讓它能在現有軟體中點選和輸入資料,先整理病歷、草擬醫囑或申請內容,再交給醫師或行政人員審核。OpenAI 表示,在 325 項臨床任務中,99% 被評為安全;在行政工作基準測試中,GPT‑6 Astra 得分 94.3%,GPT‑6 Luna 得分 91.8%,每項任務成本低 98%,為 8.5 美分。醫療機構也能設定許可權、加入核准步驟並檢視操作紀錄。

    推薦理由:文章呈現臨床與行政工作中的安全性、實用度和成本資料,也說明醫療團隊如何讓 AI 助理處理跨系統流程並保留人工審核。