Mistral AI 釋出 Mistral Vibe 2.0 與 Devstral 2 模型
Mistral AI 釋出終端原生編碼AI 助理 Mistral Vibe 2.0,搭載 Devstral 2 模型系列並帶來自定義子AI 助理、多項選擇澄清、斜槓命令技能與統一AI 助理模式。該版本現已上線 Le Chat Pro 與 Team 計劃,支援按量付費和自帶 API 金鑰,Devstral 2 也同步轉入 Mistral Studio 的付費 API 訪問。
Mistral AI 釋出終端原生編碼AI 助理 Mistral Vibe 2.0,搭載 Devstral 2 模型系列並帶來自定義子AI 助理、多項選擇澄清、斜槓命令技能與統一AI 助理模式。該版本現已上線 Le Chat Pro 與 Team 計劃,支援按量付費和自帶 API 金鑰,Devstral 2 也同步轉入 Mistral Studio 的付費 API 訪問。
Devin Review 是 Cognition 推出的免費早期版程式碼審查工具,透過 AI 幫助使用者快速理解大型 PR。 - 支援範圍:任何公開或私有 GitHub PR,無需登入即可檢視公開 PR。
推薦理由:Devin Review 讓程式員能以 AI 方式快速理解大型 PR,解決傳統審查瓶頸。
Ollama v0.14.0 之後的版本已支援 Anthropic Messages API,讓 Claude Code 能直接使用任何 Ollama 模型。
推薦理由:Ollama v0.14.0 相容 Anthropic API,讓 Claude Code 可直接在本地或雲端執行,擴大開源模型的應用場景。
Infosys 與 Cognition 合作,將 AI 軟體工程師 Devin 部署於公司內部及客戶環境,成為全球最大規模的代理式軟體工程部署之一。 - 部署範圍:先在金融服務部門(銀行、支付、資本市場、保險、財富管理)落地,未來擴充套件至零售、能源、醫療保健等產業。
推薦理由:Infosys 大規模部署 AI 工程師 Devin,顯示企業級代理程式可顯著提升交付效率與規模。
ChatGPT 內建 Replit,對話即建應用 - 功能:在 ChatGPT 對話中輸入 @replit,描述想要的功能,Replit Agent 會即時生成、更新並部署程式碼,並於對話中顯示即時預覽。
推薦理由:ChatGPT 內建 Replit 代理,使用者可透過對話即時構建、更新及部署應用,省去編碼與部署流程,降低開發門檻。
summary_zh: 作者指出,AI 產業正面臨「偏差正常化」風險,企業與開發者過度依賴 LLM 輸出,可能導致安全漏洞與意外行為。 - 概念來源:此術語源自社會學家 Diane Vaughan 的「偏差正常化」概念,最初用於解釋美國航天挑戰者號災難中警示被忽視的過程。
gpt-oss-safeguard 是 OpenAI 與 ROOST 共同開發的安全推理模型,提供 20B 與 120B 兩種規模,採用 Apache 2.0 授權。
Mistral Studio 是一套整合觀測、執行與治理的 AI 平臺,旨在協助企業將 AI 原型快速落地並持續最佳化。 - 三大支柱: - 觀測:Explorer、Judge Playground 及 Campaigns 讓團隊即時追蹤流量、建立資料集並評估回歸。
本文揭示跨代理特權提升的攻擊鏈,說明一個被攻擊的代理可改寫另一代理設定,進而共同突破沙盒。 - 攻擊方式:利用間接 prompt injection 讓 Copilot 等代理寫入對方設定檔,執行任意程式碼。
推薦理由:本文揭示跨代理特權提升的設計缺陷,說明多代理協同可快速擴散攻擊,提醒開發者需加強隔離與安全預設。
Le Chat 釋出了 20+ 以上安全 MCP 連接器和記憶功能,支援在聊天中直接搜尋、總結並操作 Databricks、Snowflake、GitHub 等企業工具,並可跨會話保持個性化上下文。連接器目錄覆蓋資料、生產力、開發、自動化、商務等領域,使用者可自定義擴充套件並在本地或雲端部署。記憶功能在免費計劃中可用,支援快速匯入 ChatGPT 記憶並提供完整的增刪改控制。
AgentHopper 是一個演示多個主流 AI 程式設計代理(如 GitHub Copilot、Amazon Q、AWS Kiro、Amp Code)可利用 prompt injection 進行遠端程式碼執行的 AI 病毒。
Windsurf 的 MCP 整合在缺少安全控管的情況下,允許 AI 以零點選模式自動呼叫工具,可能導致機密資料外洩。 - 風險:未設定工具執行許可權的 MCP 伺服器,AI 可直接讀取私人 Slack 並將內容傳送至公開 Matrix。
AWS Kiro 透過間接 Prompt Injection 允許遠端攻擊者執行任意系統指令,顯示 AI 代理程式自我配置的安全風險。 - 攻擊路徑:允許寫入 .vscode/settings.json 以允許所有 Bash 指令;或在 .kiro/settings/mcp.json 加入惡意 MCP 伺服器,立即執行程式。
推薦理由:AWS Kiro 透過間接 Prompt Injection 允許任意指令執行,凸顯 AI 代理程式自我配置帶來的安全風險,提醒開發者審慎設計沙箱與許可權。
ChatGPT 的深度研究代理在使用多工具整合時可能導致資料外洩。 - 資料外洩機制:代理可在不同連接器(如 Outlook Email、Remote Matrix、Bing、Shopify)之間傳遞資訊,造成跨工具資料洩漏。
Windsurf Cascade 能辨識不可見的 Unicode 標籤,將其視為指令,進而在不被開發者察覺的情況下自動呼叫工具。 - 隱蔽注入機制:透過隱藏字元觸發工具執行,可造成資訊外洩或資料竊取。
Windsurf Cascade 的長期記憶功能被發現可被利用進行持續指令注入與資料外洩。 - 攻擊方式:利用 create_memory 工具在 Prompt 注入時自動新增記憶,無需人工審核,從而在未來對話中持續執行惡意指令。
導語:Windsurf Cascade 透過工具呼叫與影像渲染實現的 Prompt Injection 漏洞,能在不需使用者同意的情況下竊取開發者機密。
Amazon Q VS Code 擴充功能被 Prompt Injection 攻擊,實現遠端程式執行 - 漏洞型別:間接 Prompt Injection 允許執行 find … -exec,可在未經授權下執行任意 Bash 指令。
推薦理由:此漏洞揭示 AI 代理程式在未經授權下可執行任意命令,凸顯 Prompt Injection 風險與對策的重要性,提醒開發者必須加強人機驗證與工具許可權管理,並考慮在關鍵命令上加入人機確認機制。
Amazon Q Developer 透過 Prompt Injection 及 DNS 輸出,能在未經授權時洩漏開發者機密資料。 - 漏洞機制:利用未授權的 executeBash 工具,執行 ping 或 dig,將 .env 內容以 DNS 查詢形式外洩。
推薦理由:此漏洞揭示 AI 助手在未經授權時可透過 DNS 洩露敏感資料,提醒開發者須更新至修補版以防止資訊外洩,並強調更新的重要性。
此研究揭示 Jules 可被 Prompt Injection 迫使下載惡意程式並加入遠端指揮與控制伺服器,進而被遠端操控。 - 攻擊鏈:Prompt Injection → Confused Deputy → Automatic Tool Invocation。
本文揭示 Google Jules 在多種資料外洩向量上存在安全缺口,攻擊者可利用 Prompt Injection 直接將機器資料傳送至第三方伺服器。 - 攻擊向量:Markdown 影像渲染、view_text_website 工具呼叫、GitHub Issue 指令注入。
GitHub Copilot 透過 Prompt Injection 可使開發者機器完全受控,已於 2025 年 8 月修補。 - 漏洞原理:在 .vscode/settings.json 中加入 "chat.tools.autoApprove": true,使 Copilot 進入 YOLO 模式,無需使用者確認即可執行 shell 指令。
推薦理由:此漏洞揭示 AI 代理可自行改寫設定以執行任意程式,提醒開發者必須在安全審查中關注配置許可權,並可成為 Botnet 控制點,故須即時修補。
OpenHands 透過 Prompt Injection 成為 ZombAI,實現遠端程式執行與系統完全掌控。 - 攻擊流程:利用網站或 GitHub issue 中的惡意提示,Agent 下載並執行惡意二進位,連結至攻擊者控制的 C2 伺服器。
OpenHands 代理程式可透過 Markdown 影像渲染實現零點選資料外洩。 - 攻擊方式:利用 hp_ 字首模式與 Base64 編碼,繞過模型拒絕與隱私遮蔽。
導語:本文說明 Devin AI 在多種攻擊向量下能洩露機密資訊,並展示 0‑click 攻擊的實際流程。 - 攻擊向量:Shell、Browsing、Markdown 圖片、Slack 鏈結等多種方式。
Devin AI 是 Cognition 推出的首款 AI 軟體工程師。作者以 30 天試用期、$500 進行實驗,發現可透過 GitHub Issue 注入 Prompt,令 Devin 下載並執行惡意程式,進而完成全系統遠端控制。
推薦理由:本研究揭示 Devin AI 的 Prompt Injection 漏洞,提示企業須加強代理程式安全防護,並可作為其他代理程式安全測試的參考範例。
gpt-oss 是 OpenAI 於 2025 年推出的兩款 20B 與 120B 開源權重模型,專為本地聊天、代理與開發者使用而設計。 - 模型規格:20B 針對低延遲、專用場景;120B 針對生產、通用高推理需求。
推薦理由:gpt-oss 20B/120B 以低記憶體、可微調、代理功能,為本地聊天與開發者提供新選擇。
ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制,形成 ZombAI Botnet。
推薦理由:此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制,提醒使用者須嚴格限制網路許可權以防止惡意利用。
AutoGen v0.7.1 釋出,新增 RedisMemory 擴充套件、Team 參與者支援與多項工具最佳化。 - 功能擴充:加入 RedisMemory 擴充套件類別,支援 Redis 作為記憶體後端;新增 Team 參與者,可在 GroupChat 中巢狀 Team。
Mistral AI 釋出了開源語音理解模型 Voxtral,包含面向生產的 24B 規格與面向端側的 3B 規格,均採用 Apache 2.0 協議開源。該系列模型支援 32k 上下文、長達 30 至 40 分鐘的音訊處理、內建問答與摘要、多語言處理及函式呼叫功能,並在多項語音轉寫和理解基準測試中表現優異。
推薦理由:該模型提供了兩種尺寸並開源,讀者可以根據自身算力條件選擇合適的版本進行本地部署或呼叫 API。
Mistral AI 與 All Hands AI 合作推出了 Devstral Medium 並升級了 Devstral Small 1.1。Devstral Small 1.1 採用 Apache 2.0 協議開源,在 SWE-Bench Verified 上獲得 53.6% 的分數;Devstral Medium 在 API 上線,得分達 61.6%,支援私有化部署與自定義微調。
AutoGen 釋出 python‑v0.6.2 版,新增流式工具與工具呼叫改進,提升開發者即時取得事件的能力。\n\n- 流式工具:AgentTool、TeamTool 及 AssistantAgent 支援 run_json_stream,可透過 run_stream 取得內部事件。
Mistral AI 釋出了企業級 AI 編碼助手 Mistral Code,整合了 Codestral、Codestral Embed、Devstral 和 Mistral Medium 四款模型,提供 IDE 外掛、本地化部署及企業級管理工具。
Secure Minions 是一個開源研究專案,結合本地 Ollama 模型與雲端前沿模型,透過 NVIDIA Hopper H100 的安全模組實現端到端加密協作。
Mistral AI 釋出全新的 Agents API,提供程式碼執行、網頁搜尋、影像生成、文件庫與 MCP 工具等內建連接器,支援持久化記憶、多AI 助理協作編排及狀態化對話管理。
推薦理由:官方推出的 Agents API 整合了內建連接器與 MCP 工具,為開發者構建企業級AI 助理提供了完整的端到端框架。
AI ClickFix 示範了透過社交工程與剪貼簿注入,能讓使用者或 AI 代理執行惡意指令,涵蓋 Windows、Linux 及 macOS。 - 攻擊流程:在受信任網站注入 iframe,觸發「Are you Human?
Devstral 是 Mistral AI 與 All Hands AI 合作推出的面向軟體工程的AI 助理 LLM,已在 SWE-Bench Verified 上取得 46.8% 的得分。
推薦理由:Devstral 在 SWE-Bench Verified 上顯著領先開源模型,並可在單張 RTX 4090 上本地部署,適合企業私有程式碼庫。
本文以實驗方式剖析 ChatGPT 的記憶與聊天歷史功能,說明其如何構建使用者檔案並揭露潛在的提示注入風險。 - 兩項記憶功能: - Reference Saved Memories:將已儲存的記憶與時間戳存於系統提示; - Reference Chat History:維持近期對話歷史,並以此建立使用者概況。
Mistral AI 推出基於 Mistral Large 2 的 TranscriptToPRDTicket AI 助理工作流,能夠將會議記錄自動轉化為產品需求文件(PRD)並在 Linear 或 Jira 等專案管理工具中生成開發任務。
Minions 是一套將小型本地 LLM 與雲端大模型協同運算的框架,能在保持高品質的同時大幅降低雲端使用成本。 - 協同方式:Minion 讓雲端模型與單一本地模型對話;MinionS 將任務拆分為子任務並行處理。
推薦理由:本研究提出將大模型拆分至本地裝置與雲端協同,能大幅降低雲端成本,對資源受限環境具有實際應用價值。