跳到正文

#Agent

RSS
今日 0 則
1月28日週三
  1. Mistral AI64

    Mistral AI 釋出 Mistral Vibe 2.0 與 Devstral 2 模型

    Mistral AI 釋出終端原生編碼AI 助理 Mistral Vibe 2.0,搭載 Devstral 2 模型系列並帶來自定義子AI 助理、多項選擇澄清、斜槓命令技能與統一AI 助理模式。該版本現已上線 Le Chat Pro 與 Team 計劃,支援按量付費和自帶 API 金鑰,Devstral 2 也同步轉入 Mistral Studio 的付費 API 訪問。

1月21日週三
  1. Cognition / Devin Blog66

    Devin Review:AI 讓程式碼審查更高效

    Devin Review 是 Cognition 推出的免費早期版程式碼審查工具,透過 AI 幫助使用者快速理解大型 PR。 - 支援範圍:任何公開或私有 GitHub PR,無需登入即可檢視公開 PR。

    推薦理由:Devin Review 讓程式員能以 AI 方式快速理解大型 PR,解決傳統審查瓶頸。

1月16日週五
1月7日週三
  1. Cognition / Devin Blog67

    Infosys 與 Cognition 合作,部署 AI 軟體工程師 Devin 擴大交付能力

    Infosys 與 Cognition 合作,將 AI 軟體工程師 Devin 部署於公司內部及客戶環境,成為全球最大規模的代理式軟體工程部署之一。 - 部署範圍:先在金融服務部門(銀行、支付、資本市場、保險、財富管理)落地,未來擴充套件至零售、能源、醫療保健等產業。

    推薦理由:Infosys 大規模部署 AI 工程師 Devin,顯示企業級代理程式可顯著提升交付效率與規模。

12月23日週二
  1. Replit Blog72

    ChatGPT 內建 Replit,對話即建應用

    ChatGPT 內建 Replit,對話即建應用 - 功能:在 ChatGPT 對話中輸入 @replit,描述想要的功能,Replit Agent 會即時生成、更新並部署程式碼,並於對話中顯示即時預覽。

    推薦理由:ChatGPT 內建 Replit 代理,使用者可透過對話即時構建、更新及部署應用,省去編碼與部署流程,降低開發門檻。

12月5日週五
  1. Embrace The Red (AI Security)47

    **title_zh:** AI 產業中的偏差正常化

    summary_zh: 作者指出,AI 產業正面臨「偏差正常化」風險,企業與開發者過度依賴 LLM 輸出,可能導致安全漏洞與意外行為。 - 概念來源:此術語源自社會學家 Diane Vaughan 的「偏差正常化」概念,最初用於解釋美國航天挑戰者號災難中警示被忽視的過程。

10月29日週三
10月24日週五
9月25日週四
  1. Embrace The Red (AI Security)76

    跨代理特權提升:代理互相解鎖

    本文揭示跨代理特權提升的攻擊鏈,說明一個被攻擊的代理可改寫另一代理設定,進而共同突破沙盒。 - 攻擊方式:利用間接 prompt injection 讓 Copilot 等代理寫入對方設定檔,執行任意程式碼。

    推薦理由:本文揭示跨代理特權提升的設計缺陷,說明多代理協同可快速擴散攻擊,提醒開發者需加強隔離與安全預設。

9月2日週二
  1. Mistral AI63

    Le Chat 釋出自定義 MCP 連接器與記憶功能

    Le Chat 釋出了 20+ 以上安全 MCP 連接器和記憶功能,支援在聊天中直接搜尋、總結並操作 Databricks、Snowflake、GitHub 等企業工具,並可跨會話保持個性化上下文。連接器目錄覆蓋資料、生產力、開發、自動化、商務等領域,使用者可自定義擴充套件並在本地或雲端部署。記憶功能在免費計劃中可用,支援快速匯入 ChatGPT 記憶並提供完整的增刪改控制。

8月30日週六
8月29日週五
8月26日週二
  1. Embrace The Red (AI Security)79

    AWS Kiro 透過間接 Prompt Injection 造成任意指令執行

    AWS Kiro 透過間接 Prompt Injection 允許遠端攻擊者執行任意系統指令,顯示 AI 代理程式自我配置的安全風險。 - 攻擊路徑:允許寫入 .vscode/settings.json 以允許所有 Bash 指令;或在 .kiro/settings/mcp.json 加入惡意 MCP 伺服器,立即執行程式。

    推薦理由:AWS Kiro 透過間接 Prompt Injection 允許任意指令執行,凸顯 AI 代理程式自我配置帶來的安全風險,提醒開發者審慎設計沙箱與許可權。

8月25日週一
8月24日週日
8月23日週六
8月21日週四
8月20日週三
  1. Embrace The Red (AI Security)75

    Amazon Q VS Code 擴充功能被 Prompt Injection 攻擊,實現遠端程式執行

    Amazon Q VS Code 擴充功能被 Prompt Injection 攻擊,實現遠端程式執行 - 漏洞型別:間接 Prompt Injection 允許執行 find … -exec,可在未經授權下執行任意 Bash 指令。

    推薦理由:此漏洞揭示 AI 代理程式在未經授權下可執行任意命令,凸顯 Prompt Injection 風險與對策的重要性,提醒開發者必須加強人機驗證與工具許可權管理,並考慮在關鍵命令上加入人機確認機制。

8月19日週二
  1. Embrace The Red (AI Security)80

    Amazon Q Developer 透過 DNS 與 Prompt Injection 洩露機密

    Amazon Q Developer 透過 Prompt Injection 及 DNS 輸出,能在未經授權時洩漏開發者機密資料。 - 漏洞機制:利用未授權的 executeBash 工具,執行 ping 或 dig,將 .env 內容以 DNS 查詢形式外洩。

    推薦理由:此漏洞揭示 AI 助手在未經授權時可透過 DNS 洩露敏感資料,提醒開發者須更新至修補版以防止資訊外洩,並強調更新的重要性。

8月14日週四
8月13日週三
  1. Embrace The Red (AI Security)76

    GitHub Copilot 透過 Prompt Injection 造成遠端程式執行 (CVE-2025-53773)

    GitHub Copilot 透過 Prompt Injection 可使開發者機器完全受控,已於 2025 年 8 月修補。 - 漏洞原理:在 .vscode/settings.json 中加入 "chat.tools.autoApprove": true,使 Copilot 進入 YOLO 模式,無需使用者確認即可執行 shell 指令。

    推薦理由:此漏洞揭示 AI 代理可自行改寫設定以執行任意程式,提醒開發者必須在安全審查中關注配置許可權,並可成為 Botnet 控制點,故須即時修補。

8月10日週日
8月9日週六
8月7日週四
8月6日週三
  1. Embrace The Red (AI Security)76

    我花 500 美元測試 Devin AI 的 Prompt Injection 漏洞,為你節省風險

    Devin AI 是 Cognition 推出的首款 AI 軟體工程師。作者以 30 天試用期、$500 進行實驗,發現可透過 GitHub Issue 注入 Prompt,令 Devin 下載並執行惡意程式,進而完成全系統遠端控制。

    推薦理由:本研究揭示 Devin AI 的 Prompt Injection 漏洞,提示企業須加強代理程式安全防護,並可作為其他代理程式安全測試的參考範例。

8月5日週二
  1. Ollama Blog76

    OpenAI gpt-oss 推出 20B 與 120B 開源權重模型

    gpt-oss 是 OpenAI 於 2025 年推出的兩款 20B 與 120B 開源權重模型,專為本地聊天、代理與開發者使用而設計。 - 模型規格:20B 針對低延遲、專用場景;120B 針對生產、通用高推理需求。

    推薦理由:gpt-oss 20B/120B 以低記憶體、可微調、代理功能,為本地聊天與開發者提供新選擇。

8月2日週六
  1. Embrace The Red (AI Security)79

    將 ChatGPT Codex 變為 ZombAI 助理

    ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制,形成 ZombAI Botnet。

    推薦理由:此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制,提醒使用者須嚴格限制網路許可權以防止惡意利用。

7月28日週一
7月15日週二
  1. Mistral AI86

    Mistral AI 釋出開源語音理解模型 Voxtral

    Mistral AI 釋出了開源語音理解模型 Voxtral,包含面向生產的 24B 規格與面向端側的 3B 規格,均採用 Apache 2.0 協議開源。該系列模型支援 32k 上下文、長達 30 至 40 分鐘的音訊處理、內建問答與摘要、多語言處理及函式呼叫功能,並在多項語音轉寫和理解基準測試中表現優異。

    推薦理由:該模型提供了兩種尺寸並開源,讀者可以根據自身算力條件選擇合適的版本進行本地部署或呼叫 API。

7月11日週五
7月1日週二
6月4日週三
6月3日週二
5月27日週二
  1. Mistral AI77

    Mistral AI 釋出 Agents API

    Mistral AI 釋出全新的 Agents API,提供程式碼執行、網頁搜尋、影像生成、文件庫與 MCP 工具等內建連接器,支援持久化記憶、多AI 助理協作編排及狀態化對話管理。

    推薦理由:官方推出的 Agents API 整合了內建連接器與 MCP 工具,為開發者構建企業級AI 助理提供了完整的端到端框架。

5月25日週日
5月21日週三
  1. Mistral AI83

    Mistral AI 釋出 Devstral

    Devstral 是 Mistral AI 與 All Hands AI 合作推出的面向軟體工程的AI 助理 LLM,已在 SWE-Bench Verified 上取得 46.8% 的得分。

    推薦理由:Devstral 在 SWE-Bench Verified 上顯著領先開源模型,並可在單張 RTX 4090 上本地部署,適合企業私有程式碼庫。

5月5日週一
3月4日週二
2月25日週二
  1. Ollama Blog80

    Minions:本地與雲端 LLM 協同的實驗研究

    Minions 是一套將小型本地 LLM 與雲端大模型協同運算的框架,能在保持高品質的同時大幅降低雲端使用成本。 - 協同方式:Minion 讓雲端模型與單一本地模型對話;MinionS 將任務拆分為子任務並行處理。

    推薦理由:本研究提出將大模型拆分至本地裝置與雲端協同,能大幅降低雲端成本,對資源受限環境具有實際應用價值。