Google DeepMind 釋出 Gemini 3.5 Flash Cyber 網路安全模型
Google DeepMind 推出了基於 3.5 Flash 構建並針對網路安全任務微調的輕量化模型 Gemini 3.5 Flash Cyber，旨在幫助防禦者快速發現、驗證和修補軟體漏洞。
推薦理由：Google DeepMind 推出了專為網路安全微調的輕量化模型，通過支援高頻率和多輪呼叫，在多個安全基準上展現了優於 mainline 模型和部分競品的漏洞挖掘能力。
安全與對齊
全部主題模型能力與道德約束：LLM 價值觀對齊、防越獄機制、模型行為與有害內容過濾的學術研究（純模型層面，不含底層系統資安）。
最新精選
第 61–71 條 · 共 71 條Google DeepMind精選品質評分6363
DevClass (Developer News)精選品質評分8484 Shai-Hulud 持續入侵：314 個 npm 套件因帳戶被盜而被植入惡意程式
Shai-Hulud 持續入侵，314 個 npm 套件在短短 22 分鐘內被植入惡意程式，最受影響的包包括 size-sensor、echarts-for-react 等。
推薦理由：此次 npm 賬戶被盜導致 314 個包被植入惡意程式碼，提醒開發者及時更新憑證並檢查依賴鏈。
The Register · AI & ML精選品質評分8282 安省審計揭露醫師 AI 記錄機頻繁錯漏基本事實
安省審計發現醫師 AI 記錄機常錯漏基本事實，顯示醫療 AI 在準確性與安全性方面仍存重大風險。 - 受評系統：20 家 AI Scribe 供應商，涵蓋醫師、護士及其他醫療專業人員。
推薦理由：省級審計揭露醫療 AI 記錄錯誤，凸顯醫療領域對準確性與安全性的迫切需求，顯示審計標準與實際表現差距大，呼籲建立更嚴格的驗證與監督機制。
OpenAI Alignment Research Blog精選品質評分7070 OpenAI：調查強化學習期間意外評估思維鏈的後果
OpenAI 發布研究報告，探討在強化學習（RL）訓練期間意外評估模型思維鏈（CoT）的後果與影響。研究指出部分已發布模型在訓練時曾意外遭遇有限的 CoT 評分，但分析顯示未對可監控性造成顯著退化。
推薦理由：原文分析強化學習訓練中意外評分思維鏈的影響與自動化檢測系統，讀者可藉此瞭解模型對齊維護與思維鏈可監控性評估。
OpenAI Alignment Research Blog精選品質評分7575 Auto-review：Codex 交叉操作自動審查模式
Auto-review 透過獨立代理審查，將 Codex 的 sandbox 交叉操作自動化，將人為審核頻率降低約 200 倍，並在內部部署中取得 99% 的審核通過率，證實能有效防止惡意程式執行。
推薦理由：Auto-review 透過獨立代理審查，將 Codex 的 sandbox 交叉操作自動化，將人為審核頻率降低約 200 倍，並在內部部署中取得 99% 的審核通過率，證實能有效防止惡意程式執行。
OpenAI Alignment Research Blog精選品質評分7474 Model Spec Evals 介紹：衡量模型遵循規範的評估套件
Model Spec Evals 是 OpenAI 發布的全新評估套件，測試模型是否遵守其「Model Spec」指引。 - 評估內容：596 個提示，涵蓋 225 個具體規範範疇，涵蓋指令衝突、風險處理、真實性、個性等。
推薦理由：此研究首次公開完整 Model Spec 評估工具，讓開發者可量化模型對規範的遵循度，對模型安全改進具有可操作參考。
Google Project Zero精選品質評分7373 深入解析 GetProcessHandleFromHwnd API 的安全漏洞與歷史演進
本文深入探討 Windows 作業系統中 GetProcessHandleFromHwnd API 的歷史演進與安全漏洞，分析其從早期透過視窗掛鉤到核心態實作的轉變過程。
推薦理由：原文深入拆解 Windows 核心 API 的演進與安全漏洞，有助於資安從業人員理解作業系統機制的盲點。
Python Official Blog精選品質評分6464 Python安全回應團隊公佈治理檔案，開放成員名單與新加入流程
Python 安全回應團隊（PSRT）正式公佈 PEP 811 治理檔案，首次公開成員名單並規範新舊成員的加入與離職流程。 - 治理亮點：檔案明確列出成員與管理員責任，並說明 PSRT 與 Python Steering Council 的關係。
推薦理由：新治理檔案使 Python 安全團隊更透明、成員招募更便捷，提升整體安全維護能力，並協調跨專案漏洞修復，確保 Python 生態安全持續增強。
OpenAI Alignment Research Blog精選品質評分7070 CoVal：從眾包學習價值導向評分標準
CoVal 是一套從眾包獲得的價值導向評分標準與對應的人工標記資料集。透過將衝突性提示與可審計的評分標準配對，研究者能量化並解釋人類對機器回覆的偏好差異。
推薦理由：本研究提供可直接量化模型偏好差異的資料與評分方法，對 AI 取向與安全評估具有重要參考價值，並促進跨研究者對價值衝突的可解釋性探討。
Embrace The Red (AI Security)精選品質評分8585 Google Jules 易受隱藏 Prompt 注入攻擊
Google Jules 近期被發現易受隱藏 Unicode 標籤 Prompt 注入攻擊，該漏洞源於 Gemini 模型將隱藏字元解讀為指令。 - 影響範圍：所有使用 Gemini 模型的應用，包括 Google Jules 及其內部服務。
推薦理由：此漏洞揭示 Gemini 模型對隱藏 Unicode 標籤的解讀缺陷，可能導致後門植入，提醒開發者在使用 Google Jules 時須審慎審核程式碼與任務來源。
Embrace The Red (AI Security)精選品質評分7979 將 ChatGPT Codex 變為 ZombAI 智慧體
ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制，形成 ZombAI Botnet。
推薦理由：此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制，提醒使用者須嚴格限制網路許可權以防止惡意利用。