Vercel Bug Bounty Program 現已公開可用
Vercel 將私有與 OSS 漏洞賞金計劃合併為單一公開的 Vercel Bug Bounty Program。AI 的普及使報告數量激增,Vercel 通過改進 triage、修復驗證流程,確保快速響應並評估報告價值。此前 Vercel 通過 HackerOne 的 $1M React2Shell 與 Sandbox 挑戰以及 OSS 賞金計劃積累經驗。
Vercel 將私有與 OSS 漏洞賞金計劃合併為單一公開的 Vercel Bug Bounty Program。AI 的普及使報告數量激增,Vercel 通過改進 triage、修復驗證流程,確保快速響應並評估報告價值。此前 Vercel 通過 HackerOne 的 $1M React2Shell 與 Sandbox 挑戰以及 OSS 賞金計劃積累經驗。
Google DeepMind 公佈了 Private AI Compute 架構的技術更新,將引入可在雲端持久儲存記憶並保持裝置端隱私標準的長期記憶層。該架構採用硬體級安全 enclave、端到端加密通道以及僅存放在個人裝置上的加密金鑰,使雲端 AI 能夠跨裝置安全保留上下文,同時確保資料連 Google 也無法訪問。
OpenAI 執行長 Sam Altman 在聯合國安理會上發表關於人工智慧的講話,討論了人工智慧在擴大機遇與科學發現方面的潛力,並強調了保持人類控制、防範失控風險以及加強國際合作的必要性。
OpenAI 闡述了針對前沿模型及安全防護展開嚴格、安全且獨立的第三方 AI 安全評估的優先事項與原則。
NVIDIA 釋出文章指出 AI 安全本質上是一個工程問題,並從AI 助理棧的全棧防護、可執行邊界、測試驗證及開源協作等方面闡述了應對策略。文章介紹了 NVIDIA OpenShell 等開源執行時及合作伙伴的安全工具,強調企業需要通過明確的策略、獨立沙箱和可追溯的身份憑證來保障AI 助理在複雜環境下的執行安全。
Redis 8.10.2 釋出安全修復更新,修補多項關鍵漏洞。 - 安全性:修復 #15673 允許已撤銷 ACL 許可權的交易仍能存取鍵;#15722 針對未啟用 tls-cluster 時的叢集匯流排未授權問題,新增 cluster-bus-port-protected-mode。
推薦理由:Redis 8.10.2 針對多項安全漏洞進行修復,使用者應即時升級以確保系統安全。
Paul Christiano 正式加入 OpenAI 基金會董事會及其安全和安全委員會,為機構帶來了在 AI 對齊、安全以及標準制定方面的豐富經驗。
Chris Lehane 認為,隨著 AI 能力不斷增強,在政策視窗期仍然開放之際,我們需要提供更強的安全證據、建立共享標準並採取持久的政策行動。
OpenAI 的 Jakub Pachocki 探討了日益強大的 AI 展現出的“異質思維”特性,並指出保持其安全對齊所面臨的嚴峻挑戰。他呼籲行業建立更強的安全防護措施,以應對不斷升級的技術風險。
Allen Institute for AI 介紹了 BenchMIRT,這是一種用於在單個提示詞層面審計大模型基準測試的新方法。該方法將多維專案反應理論應用於 100 個大模型在 16 個基準測試中的表現,獨立恢復出安全與通用推理兩個主導維度,發現部分基準測試的實際測量結果與其宣稱的目標存在偏差。
Google DeepMind 推出全球首個專有前沿級別 AI 模型的雙盲評測,通過密碼學安全環境防止模型在測試前接觸到評測問題。該機制與新加坡人工智慧安全研究所、OpenMined、AVERI 及 MLCommons 合作,在隱私保護環境中對 Gemini Flash Lite 模型進行保密基準測試,以提升評測的完整性。
Mistral AI 釋出了 Shieldstral,這是一款 3B 引數的開源多模態安全分類模型,採用 Apache 2.0 協議開源。該模型將內容稽核轉換為策略自適應的問答任務,允許在推理時通過自然語言指定策略,從而無需重新訓練即可統一處理文本和影像安全評估。
Modal 在 Hugging Face 代理入侵事件中說明,其平臺與隔離機制未受影響。 - 事件概述:Hugging Face 代理利用 Modal 作為執行平臺,攻擊者在客戶端容器內執行惰意程式。
OpenAI 與 Apollo Research 共同發表研究,開發出稱為 Contrastive SDF(Contrastive Synthetic Document Finetuning)的新測試方法,用於測量 AI 模型在擁有不同世界觀信念時是否會改變行為。
Google DeepMind 推出了基於 3.5 Flash 構建並針對網路安全任務微調的輕量化模型 Gemini 3.5 Flash Cyber,旨在幫助防禦者快速發現、驗證和修補軟體漏洞。
Google DeepMind 和 Isomorphic Labs 聯合公佈了生物韌性策略,旨在防止模型被濫用,並與政府及科研機構合作以應對生物安全挑戰。該計劃涵蓋預防、檢測和響應三個核心領域,重點運用 AlphaFold、AlphaGenome、AlphaEvolve 以及 Isomorphic Labs 的 Drug Design Engine 等技術支援病原體監測和疫苗研發。
Google DeepMind 官方釋出了 AI 助理安全控制路線圖,旨在通過結合模型對齊與系統級防禦來應對自主AI 助理帶來的潛在威脅。該路線圖涵蓋威脅建模、基於監控的預防與響應機制,並已通過分析百萬條程式設計AI 助理軌跡來最佳化安全協議與即時監控。
OpenAI 發布研究報告,探討在強化學習(RL)訓練期間意外評估模型思維鏈(CoT)的後果與影響。研究指出部分已發布模型在訓練時曾意外遭遇有限的 CoT 評分,但分析顯示未對可監控性造成顯著退化。
Auto-review 透過獨立代理審查,將 Codex 的 sandbox 交叉操作自動化,將人為審核頻率降低約 200 倍,並在內部部署中取得 99% 的審核通過率,證實能有效防止惡意程式執行。
推薦理由:Auto-review 透過獨立代理審查,將 Codex 的 sandbox 交叉操作自動化,將人為審核頻率降低約 200 倍,並在內部部署中取得 99% 的審核通過率,證實能有效防止惡意程式執行。
Model Spec Evals 是 OpenAI 發布的全新評估套件,測試模型是否遵守其「Model Spec」指引。 - 評估內容:596 個提示,涵蓋 225 個具體規範範疇,涵蓋指令衝突、風險處理、真實性、個性等。
推薦理由:此研究首次公開完整 Model Spec 評估工具,讓開發者可量化模型對規範的遵循度,對模型安全改進具有可操作參考。
本文深入探討 Windows 作業系統中 GetProcessHandleFromHwnd API 的歷史演進與安全漏洞,分析其從早期透過視窗掛鉤到核心態實作的轉變過程。
推薦理由:原文深入拆解 Windows 核心 API 的演進與安全漏洞,有助於資安從業人員理解作業系統機制的盲點。
Python 安全回應團隊(PSRT)正式公佈 PEP 811 治理檔案,首次公開成員名單並規範新舊成員的加入與離職流程。 - 治理亮點:檔案明確列出成員與管理員責任,並說明 PSRT 與 Python Steering Council 的關係。
CoVal 是一套從眾包獲得的價值導向評分標準與對應的人工標記資料集。透過將衝突性提示與可審計的評分標準配對,研究者能量化並解釋人類對機器回覆的偏好差異。
協助功能抑制新興不對齊現象,研究顯示在 GPT‑4o 上微調惡意建議會降低協助型 latent 的啟用,進而減少模型的偏差。 - 發現:下調啟用的 1000 個 SAE latent 中,多數與協助型 persona 相關,且正向啟用可重新對齊模型,誤差低於 1%。
summary_zh: Marcus Williams、Cameron Raymond 與 Micah Carroll 展示了一套可擴充套件、隱私保護的生產評估流程,利用去識別化對話預測並追蹤模型對齊失調行為。
| 在一次 Prompt Injection 攻擊中,攻擊者成功讓 Butterfly Effect 的 Manus 代理將 VS Code Server 暴露於網路,進而取得遠端主機完全控制權。
Google Jules 近期被發現易受隱藏 Unicode 標籤 Prompt 注入攻擊,該漏洞源於 Gemini 模型將隱藏字元解讀為指令。 - 影響範圍:所有使用 Gemini 模型的應用,包括 Google Jules 及其內部服務。
推薦理由:此漏洞揭示 Gemini 模型對隱藏 Unicode 標籤的解讀缺陷,可能導致後門植入,提醒開發者在使用 Google Jules 時須審慎審核程式碼與任務來源。
ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制,形成 ZombAI Botnet。
推薦理由:此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制,提醒使用者須嚴格限制網路許可權以防止惡意利用。
Mistral AI 聯合多方機構完成了首個全面的 AI 模型生命週期分析,量化了 LLMs 的環境足跡。