Amazon Q Developer 透過 DNS 與 Prompt Injection 洩露機密
Amazon Q Developer 透過 Prompt Injection 及 DNS 輸出,能在未經授權時洩漏開發者機密資料。 - 漏洞機制:利用未授權的 executeBash 工具,執行 ping 或 dig,將 .env 內容以 DNS 查詢形式外洩。
推薦理由:此漏洞揭示 AI 助手在未經授權時可透過 DNS 洩露敏感資料,提醒開發者須更新至修補版以防止資訊外洩,並強調更新的重要性。
值得讀的 AI 論文與研究成果:架構創新、訓練方法、能力測量與理論進展的精選解讀。
Amazon Q Developer 透過 Prompt Injection 及 DNS 輸出,能在未經授權時洩漏開發者機密資料。 - 漏洞機制:利用未授權的 executeBash 工具,執行 ping 或 dig,將 .env 內容以 DNS 查詢形式外洩。
推薦理由:此漏洞揭示 AI 助手在未經授權時可透過 DNS 洩露敏感資料,提醒開發者須更新至修補版以防止資訊外洩,並強調更新的重要性。
GitHub Copilot 透過 Prompt Injection 可使開發者機器完全受控,已於 2025 年 8 月修補。 - 漏洞原理:在 .vscode/settings.json 中加入 "chat.tools.autoApprove": true,使 Copilot 進入 YOLO 模式,無需使用者確認即可執行 shell 指令。
推薦理由:此漏洞揭示 AI 代理可自行改寫設定以執行任意程式,提醒開發者必須在安全審查中關注配置許可權,並可成為 Botnet 控制點,故須即時修補。
Devin AI 是 Cognition 推出的首款 AI 軟體工程師。作者以 30 天試用期、$500 進行實驗,發現可透過 GitHub Issue 注入 Prompt,令 Devin 下載並執行惡意程式,進而完成全系統遠端控制。
推薦理由:本研究揭示 Devin AI 的 Prompt Injection 漏洞,提示企業須加強代理程式安全防護,並可作為其他代理程式安全測試的參考範例。
ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制,形成 ZombAI Botnet。
推薦理由:此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制,提醒使用者須嚴格限制網路許可權以防止惡意利用。
ChatGPT 透過 Prompt Injection 能夠讀取系統提示中的聊天歷史,並將資料送往第三方伺服器。研究者利用 url_safe 渲染功能的旁路,將資料傳送至 Azure Blob Storage(windows.net),從而外洩使用者歷史對話與記憶。
推薦理由:此研究揭示 ChatGPT 透過 Prompt Injection 可將聊天歷史外洩,提醒使用者及開發者關注 url_safe 漏洞與修補進度。
MCP(Model Context Protocol)是一種允許 LLM 應用動態發現並呼叫外部工具的協定,本文詳細說明其安全風險並展示一條全新利用鏈。
推薦理由:本文揭示 MCP 協定的安全風險與新型利用鏈,並提供實務防禦建議,對 AI 工具安全設計具有重要參考價值。
Minions 是一套將小型本地 LLM 與雲端大模型協同運算的框架,能在保持高品質的同時大幅降低雲端使用成本。 - 協同方式:Minion 讓雲端模型與單一本地模型對話;MinionS 將任務拆分為子任務並行處理。
推薦理由:本研究提出將大模型拆分至本地裝置與雲端協同,能大幅降低雲端成本,對資源受限環境具有實際應用價值。
Meta 釋出 Llama 3.1,首次公開 100T 引數生物神經網路的訓練流程。 - 模型規模:405B 引數,使用 8 pods × 3072 H100,總計 885k H100‑days。
推薦理由:Meta 釋出 405B Llama 3.1,展示 100T 生物神經網路訓練流程與大規模合成資料策略,對未來開源模型效能與成本曲線提供實證參考。