Google Jules 易受隱藏 Prompt 注入攻擊
Google Jules 近期被發現易受隱藏 Unicode 標籤 Prompt 注入攻擊,該漏洞源於 Gemini 模型將隱藏字元解讀為指令。 - 影響範圍:所有使用 Gemini 模型的應用,包括 Google Jules 及其內部服務。
推薦理由:此漏洞揭示 Gemini 模型對隱藏 Unicode 標籤的解讀缺陷,可能導致後門植入,提醒開發者在使用 Google Jules 時須審慎審核程式碼與任務來源。
模型能力與道德約束:LLM 價值觀對齊、防越獄機制、模型行為與有害內容過濾的學術研究(純模型層面,不含底層系統資安)。
Google Jules 近期被發現易受隱藏 Unicode 標籤 Prompt 注入攻擊,該漏洞源於 Gemini 模型將隱藏字元解讀為指令。 - 影響範圍:所有使用 Gemini 模型的應用,包括 Google Jules 及其內部服務。
推薦理由:此漏洞揭示 Gemini 模型對隱藏 Unicode 標籤的解讀缺陷,可能導致後門植入,提醒開發者在使用 Google Jules 時須審慎審核程式碼與任務來源。
ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制,形成 ZombAI Botnet。
推薦理由:此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制,提醒使用者須嚴格限制網路許可權以防止惡意利用。