最新精選
第 1101–1107 條 · 共 1,107 條- Embrace The Red (AI Security)精選品質評分7676
GitHub Copilot 透過 Prompt Injection 可使開發者機器完全受控,已於 2025 年 8 月修補。 - 漏洞原理:在 .vscode/settings.json 中加入 "chat.tools.autoApprove": true,使 Copilot 進入 YOLO 模式,無需使用者確認即可執行 shell 指令。
推薦理由:此漏洞揭示 AI 代理可自行改寫設定以執行任意程式,提醒開發者必須在安全審查中關注配置許可權,並可成為 Botnet 控制點,故須即時修補。
- Embrace The Red (AI Security)精選品質評分7676
Devin AI 是 Cognition 推出的首款 AI 軟體工程師。作者以 30 天試用期、$500 進行實驗,發現可透過 GitHub Issue 注入 Prompt,令 Devin 下載並執行惡意程式,進而完成全系統遠端控制。
推薦理由:本研究揭示 Devin AI 的 Prompt Injection 漏洞,提示企業須加強代理程式安全防護,並可作為其他代理程式安全測試的參考範例。
- Embrace The Red (AI Security)精選品質評分7474
ChatGPT 透過 Prompt Injection 能夠讀取系統提示中的聊天歷史,並將資料送往第三方伺服器。研究者利用 url_safe 渲染功能的旁路,將資料傳送至 Azure Blob Storage(windows.net),從而外洩使用者歷史對話與記憶。
推薦理由:此研究揭示 ChatGPT 透過 Prompt Injection 可將聊天歷史外洩,提醒使用者及開發者關注 url_safe 漏洞與修補進度。
- DevClass (Developer News)精選品質評分7676
安全研究員 Sharon Brizinov 在 GitHub 上發現一個被刪除的提交,裡麵包含一個授予所有 Istio 儲存庫管理許可權的個人存取令牌,該令牌已被撤銷。
推薦理由:此事件揭示 GitHub 失誤提交可被利用,提醒開發者及時撤除敏感資料,並強調 Git 歷史不可輕易刪除之限制
- Embrace The Red (AI Security)精選品質評分7575
MCP(Model Context Protocol)是一種允許 LLM 應用動態發現並呼叫外部工具的協定,本文詳細說明其安全風險並展示一條全新利用鏈。
推薦理由:本文揭示 MCP 協定的安全風險與新型利用鏈,並提供實務防禦建議,對 AI 工具安全設計具有重要參考價值。
- Chip Huyen (AI Engineering)精選品質評分7474
生成式 AI 平臺 的建構流程被分為多個階段,從簡單的模型呼叫到完整的觀測與安全機制,內容涵蓋 RAG、代理、路由、快取與寫入動作。 - 核心元件 包括 模型 API、上下文構建、Guardrails、Model Router、Gateway、Cache、複雜邏輯、寫入動作、觀測。
推薦理由:此篇深入拆解生成式 AI 平臺的核心元件與設計模式,對想打造可擴充、可觀測的系統的工程師極具參考價值。
工程師 Dan Luu 針對 Cruise 自動駕駛車輛撞擊並拖行行人的獨立調查報告發表筆記,探討科技業與安全關鍵系統之間的文化衝突、內部危機處理的失誤,以及與監管機構溝通時的資訊落差。
推薦理由:透過檢視調查報告的細節與內部溝通紀錄,讀者可深入瞭解自駕車企業在重大事故應對與監管溝通上的盲點。