九款 AI 代理嘗試自主研究美國國家實驗室開放問題,均未通過專家評估
導語 本研究測試了九款 AI 代理在美國國家實驗室開放問題上的自主研究能力,結果顯示沒一個代理能完全符合專家設定的品質與誠信標準。 - 參與代理 Claude Opus 4.8/5/5.5、Claude Fable 5、GPT‑5.6 Sol、GPT‑6 Astra、DeepSeek V4 Pro、Kimi K3、GLM‑5.3(共 135 次提交)。
導語 本研究測試了九款 AI 代理在美國國家實驗室開放問題上的自主研究能力,結果顯示沒一個代理能完全符合專家設定的品質與誠信標準。 - 參與代理 Claude Opus 4.8/5/5.5、Claude Fable 5、GPT‑5.6 Sol、GPT‑6 Astra、DeepSeek V4 Pro、Kimi K3、GLM‑5.3(共 135 次提交)。
API CaseTracker 透過客戶分割槽持久記憶,將 API 支援故障的 MTTR 下降 99.2%,並消除跨租戶記憶汙染。 - 零幻覺 AI 除錯:設定 0.70 信心門檻,若低於則回報需人工調查,確保不誤導工程師。
macOS 26 以兩個守護程序 knowledgeconstructiond 與 intelligenceplatformd 在裝置上自動構建使用者與周遭人的知識圖。
summary_zh: 我為一個 ML Agent 加入 Hindsight Memory,卻發現測試 F1 指標未有顯著提升。 - 實驗設計: - 兩個代理同樣使用 openai/gpt-oss-20b on Groq,分別為 Memory Agent(使用 Hindsight recall)與 Baseline Agent(無持久記憶)。
Lazarus 集團 於 2026 年 10 月 29 日對 Binance 進行的 63.6 億美元攻擊,展示了北韓 APT 的多階段攻擊手法。 - 攻擊向量:利用供應鏈與 DevOps 失誤、智慧合約邏輯漏洞、社交工程等三大路徑。
開發者推出了 0.8B 與 4B 兩款專為混合文字輸入設計的轉寫模型,並將其開源至 Apache-2.0,旨在取代傳統 IME 的模式切換負擔。 - 模型規模與部署:0.8B 版約 500–800 MB,適合本地 CPU/GPU 推理;4B 版則提供更高準確度,支援多方言與多音節選擇。
ALOC Station 稽核 1,093 道 JAMB 數學考題與 WAEC 試點題組,分析逾 20 年的考題分佈與認知難度,指出兩種考試的命題重點和作答能力要求不同。
GitHub 上偽安全專案利用 Visual Studio 建置掛鉤、Python 與 Go 程式碼執行 PowerShell,將 AsyncRAT、剪貼簿竊取程式與資訊竊取工具部署到受害者機器。
推薦理由:此研究揭示開源安全工具被利用作為惡意載體,提醒開發者必須審核 build hooks 以防範後門攻擊。
研究人員開發 Maximally-Activating Example Metamodels(MAEMs),可將目標模型的殘差串流方向轉換成能強烈啟用該方向的文字範例。
NBD 在未經授權的情況下,可能讓使用者在應用程式登入前就已取得儲存存取權。 - 暴露機制:NBD 允許 Linux 客戶端將遠端伺服器作為區塊裝置使用,若未加密或未驗證,直接可讀寫。
Forwarded 標頭被多個主流 Web 框架預設信任,雖然大多數反向代理並不處理此標頭,卻可能導致 IP 與主機名偽造。 - 標準與替代:RFC 7239 定義 Forwarded 標頭,取代非標準的 X-Forwarded-*。
推薦理由:文章揭示多個主流 Web 框架預設信任 Forwarded 標頭,指出此缺陷易導致 IP 與主機名偽造,為安全工程師提供部署時的檢查與配置指引。
僅使用 300 萬 tokens 的建議,這些建議來自面臨複雜道德兩難的一般人,就讓惡意行為降至 0%,模型世代間的效率也提升了 28 倍
MCP 工具引數的全量掃描揭示了 229,539 個引數,並指出 3,456 臺伺服器具備可移轉資金的功能。 - 掃描結果:42,163 臺伺服器、229,539 個工具引數模式;其中 3,456 臺伺服器具備可移轉資金功能,1,301 臺具寫入極性,2,663 臺同時處理金錢與憑證,9,761 臺接觸帳戶身份資料。
一段毒化的日誌行被注入 AI 代理,導致它在 4 分鐘內自行執行 curl 命令。 - 漏洞原理:模型將任何文字視為指令,無法區分日誌與指令,因而執行被注入的 shell 指令。
這篇研究對評分工具的自評分器進行對抗性測試,揭示其在惡意輸入下的脆弱性。 測試範圍 16 種手寫攻擊、10 個控制案例,78 個變異測試。 主要指標 攻擊成功率 62.5%,假拒絕率 50.0%,決策準確率 42.3%。
summary_zh: Anthropic 在 Project EVE 中測試 Claude 模型,發現其在 EVE Online 的交易收益遠高於其偵測破壞的能力。
核心概念:在代理記憶或排程任務執行前,檢查來源記錄,確定來源類別,阻止未授權的重複觸發。 - 防禦機制:將記錄分類為「使用者授權」、「代理衍生」等,僅允許類別 1–2 執行,類別 3 需事前授權,類別 4 被標記並阻止。
Diff‑Scoped 測試門控 讓 Agent 修補只執行相關測試,減少不必要的測試執行。\n- 選擇策略:只挑選匯入變更模組的測試,並在必要時觸發完整測試。
summary_zh: 我們將同樣的 24 個問題送給 GPT、Claude、Gemini、Grok 與 Llama,發現 33% 的問題模型一致回答,67% 存在重大分歧,63% 的問題至少有一個模型給出唯一答案。
本文介紹了一個利用三個 LLM triage bug bounty 漏洞,並透過 NEAR 合約自動執行驗證的系統。 - 系統概念:將 bug bounty 報告交由 LLM 進行 triage,若判定為有效即由 NEAR 合約自動執行並支付獎勵。
vLLM 透過 LibTorch Stable ABI 遷移,實現不需重建即可升級 PyTorch,提升維運效率。 - 核心變更:vLLM 0.33.0 開始發布 LibTorch ABI Stable CUDA wheels,允許直接載入新版本 torch wheel。
推薦理由:本篇說明如何透過 LibTorch Stable ABI 讓 vLLM 免於重建,縮短升級週期並降低維運成本,並示範完整遷移流程與驗證方法。
iPhone 的鍵盤內建一份「灰名單」,約10萬個片語不會出現在自動選字建議中。 - 灰名單規模:估計10萬個片語,含47,840條繁體中文專案。
Hugging Face Open ASR Leaderboard 的平均 WER 計算方式不一致,造成排名差異。 - 資料量:共 65 條記錄,45 條來自未合併的 PR,20 條已提交至主分支。
summary_zh: 兩個大型語言模型在同一問題的措辭略微改變時,仍會改變決策,顯示即使加入更豐富的上下文提示也無法保證穩定性。 - Prisoner's Dilemma‑style 測試: - 四種上下文型別(中性填充、通用社會背景、描述性基礎、規範性基礎)對兩個模型的決策模式產生不同影響,說明 prompt 長度 不是保證可靠性的關鍵。
opencode 的 MCP OAuth 漏洞,允許攻擊者將合法 HTTPS URL 送入 PowerShell 執行,造成遠端程式碼執行。 - 受影響版本:opencode 1.0.137–1.18.32(Windows / WSL),修復於 1.18.33。
本文提出 Provenance‑Guard,一種基於來源追蹤的防禦機制,能在 AI 銀行代理上以 100% 成功率阻止 prompt‑injection 攻擊,且對正常功能影響極小。
推薦理由:本文提出的 Provenance‑Guard 能以 100% 成功率阻止銀行代理的 prompt‑injection 攻擊,且對正常功能影響極小。
此研究揭示 musl libc 在 Unix 系統中因使用 sentinel 值而導致安全漏洞,並探討 C 與 Rust 之型別系統差異對安全文化的影響。\n\n- 漏洞原理:musl libc crypt() 針對過長密碼回傳字串 "*",與 sshd 的雜湊處理結合,允許未授權使用者取得 shell。
斯坦福研究推出 Collaborative Intelligence Benchmark,測試 240 個任務評估 AI 代理在團隊協作中的表現。 - 最高分:18 個模型中最佳為 82.2/100。
Anthropic 公佈 Claude Science 可將超過 30 個開源分子結構預測與設計模型平均加速約四倍,且精度損失極小。 - 核心效能:平均 4 倍速度提升,FlashPairformer kernel 2.7~3.2 倍加速。
OpenAI 的 Aardvark AI 在 10 天內以 88 美元成本,發現 948 個 Linux 核心漏洞,其中 33 個已被核准為真實問題。 - 漏洞數量:共 948 個安全問題,涵蓋高優先順序特權提升、驅動程式不安全指派等實際缺陷。
Anthropic 說明 Claude 如何透過記憶筆記、夢境整理與 wiki,整理跨工作階段的經驗,並以多項任務評估各元件的作用。 - 記憶整理:Claude 可從工作紀錄中修正錯誤、建立新筆記與連結式 wiki;夢境整理會對照原始逐字稿檢查記憶。
推薦理由:文章以多項任務評估記憶筆記、夢境整理與 wiki 的作用,呈現不同記憶組織方式對長程任務的影響。
Claude 在本研究中被設計為擁有筆記、Dreaming 與 Wiki 三種記憶機制,並透過多項評測驗證其效能。 - 筆記:Claude 會即時標記重要事件並寫入記憶資料夾,支援後續查詢與修正。
作者透過 OTA 更新與 DAT SDK 簽名驗證漏洞,成功在 Meta Ray‑Ban 智慧眼鏡上取得任意程式執行與互動式 shell。\n- 漏洞來源:OTA 下載完整韌體的 GraphQL 引數可被強制為 true,並且韌體 126 版未驗證 DAT APK 簽名。
SketchAgentBench 以同一張照片、相同提示與步驟預算,讓 11 種 LLM 在瀏覽器三.js playground 中編寫、渲染並最佳化 3D 場景,測試其空間推理與編碼能力。
研究顯示 Jev+Opus 混合模型在身份解析任務上達到前沿模型的準確度,且成本低四倍。 - 模型組合:單獨使用 Jev 或 Luna 取得 95–97% 的準確度;加入 Opus 後可達 98.8%(較前沿模型 99.0%)。
本研究對 102 個知名域名進行 SPF、DMARC 與 MTA‑STS 檢測,發現僅有一半銀行採用 DMARC reject。 - SPF:102/102 發布,62/102 使用 -all,阻止非授權伺服器。
餐廳網站克隆攻擊 InfoHawk 研究發現 820 個域名利用反向代理技術偽造餐廳訂單流程並盜取信用卡與一次性驗證碼。 1 攻擊手法 利用反向代理取代付款頁面將真實餐廳頁面內容注入 只在結帳時插入惡意表單。