追蹤 AI 開源專案:停止更新比連結失效更常見,引用時附上 DOI
AI 開源專案的連結失效,和專案停止更新,是兩件不同的事。作者追蹤了 733 個 GitHub 或 Hugging Face 專案,發現 23 個曾變得無法取得,其中 5 個後來恢復;另有 67 個專案超過 90 天沒有更新。作者建議把這兩種狀況分開記錄,並且連續兩次查不到才標記為失效。引用專案時,也可在網址旁附上 DOI 或封存連結,避免日後網址失效就找不到資料。
AI 開源專案的連結失效,和專案停止更新,是兩件不同的事。作者追蹤了 733 個 GitHub 或 Hugging Face 專案,發現 23 個曾變得無法取得,其中 5 個後來恢復;另有 67 個專案超過 90 天沒有更新。作者建議把這兩種狀況分開記錄,並且連續兩次查不到才標記為失效。引用專案時,也可在網址旁附上 DOI 或封存連結,避免日後網址失效就找不到資料。
只看最後寫好的程式碼,AI 助理學不到遇到錯誤後怎麼繼續。Sumama-Jameel 整理出 66 段實際執行的程式開發過程:AI 助理在 Docker 沙盒裡處理真實專案任務,使用工具、碰到錯誤再修正,工具輸出和失敗紀錄都保留下來。每段資料都會檢查專案測試,也能在自己的電腦上重新驗證。作者公開與四份大型資料集的比較,並說明這份資料在規模和部分指標上落後;用它訓練的小型模型有一項分數從 43% 升到 80%,其他分數則退步。
有些 MCP 工具能動用資金,也會接觸帳戶或憑證資料;如果提示詞注入影響這些工具,風險可能從讀取資料變成花掉資金。作者盤點公開 MCP 生態系,並公開可重算數字的資料與程式。盤點顯示,3,456 個伺服器提供資金操作功能,其中 1,301 個工具能移動資金;另有 2,663 個伺服器在同一信任範圍內處理資金與憑證。作者也提醒,這些數字只涵蓋公開生態系,企業內部部署不在盤點範圍內。公開的風險資料與檢查紀錄可供重跑,協助檢視工具許可權和操作紀錄是否能供稽核。
AI 程式助理可能因為沒讀到專案規則,或只讀到部分內容,而和其他助理採用不同做法。作者檢查了 3,905 份 GitHub 上的 CLAUDE.md 和 AGENTS.md,發現兩份檔案並存時,約 16% 的 CLAUDE.md 沒有提到 AGENTS.md,因此 Claude Code 不會載入它;另有一些檔案要求助理自行去讀,或是複製後內容已經不同。作者建議在 CLAUDE.md 開頭單獨加上 @AGENTS.md,讓 Claude Code 匯入共用規則。研究也指出,超過 Codex 預設讀取大小的 AGENTS.md,後段內容不會送進模型;檢查只涵蓋公開 GitHub 專案,衡量的是規則有沒有傳到助理,不代表助理一定會遵守。
推薦理由:這份 GitHub 檢查整理了指令檔未載入、內容分歧與長度超限的情況,並說明如何讓 Claude Code 讀取 AGENTS.md。
程式測試被改掉時,CI 仍可能顯示通過,光看結果很難知道測試是否變弱。作者用自己開發的 honest-ci 檢查 1,598 件 AI 助理提出的 PR,並與同一批專案中相近時間的人類 PR 比較。結果顯示,8.4% 的 AI 助理 PR 和 10.4% 的人類 PR 有測試變動;沒有提出理由、而且確實讓測試變弱的案例,兩邊都不到 1%。這些數字無法證明每次改動都合理,偵測工具也會誤報,因此作者建議讓測試變動交由人檢視。
GH-AWTrace 研究分析 410 萬筆 GitHub Agentic Workflows 執行紀錄;在可取得的非空日誌中,31.7% 連結至以失敗結束的執行。
語義快取 在面對微小語義變化時易被攻擊,本文透過三大攻擊族群測試其安全性。 - 攻擊成功率:手寫種子 76.5%,生成變體 92.9%。 - 假命中率:0.0%,安全性在非相關查詢上良好。
這篇研究對評分工具的自評分器進行對抗性測試,揭示其在惡意輸入下的脆弱性。 測試範圍 16 種手寫攻擊、10 個控制案例,78 個變異測試。 主要指標 攻擊成功率 62.5%,假拒絕率 50.0%,決策準確率 42.3%。
REINFORCE Zero 是一種將核對齊與無截斷重要性抽樣結合的非同步 RL 方案,能在保持高品質的同時大幅提升訓練吞吐量。 - 核心機制:先將 rollout 與 learner 的 kernel 進行對齊,消除 kernel mismatch;再使用無截斷 IS 校正 weight lag,避免截斷帶來的偏差。
推薦理由:本文提出 REINFORCE Zero 通過核對齊與無截斷 IS 實現非同步 RL 穩定性提升,讀者可參考其方法最佳化大規模代理訓練,並評估其在多模型上的適用性。
導語:本文評估一個完全基於結構性引用的研究流程,發現即使引用正確,惡意來源仍可導致報告包含虛假主張。\n- 評估指標:引用覆蓋率、可驗證性、植入虛假檢測,原始測試達 19/19、19/19、6/6。
Verify, Then Vote:透過來源驗證提升多模型投票準確率。 - 實驗設定:五個本地模型(Llama 3.2 3B、Mistral 7B、Gemma 2 2B、Phi‑3 mini、Qwen 2.5 3B)在 Apple M3 Pro 上執行,耗時約八小時。
Agile Deliberation 是 Google Research 提出的框架,透過 AI 與人類的雙向對話,協助使用者在主觀概念上迭代定義,並直接更新模型。
CloudOpsBench 是一個開源基準,測量 AI 代理在雲端 DevOps 任務(如修復服務、刪除資源、限制存取權、部署更新、停用專案)的表現。 - 任務數量:45 個 AWS 任務,未來將擴充套件至 GCP、Azure、OCI。
GPT‑6 Astra 透過直接讀寫神經網路權重,僅調整 0.016% 的引數,即可顯著提升 Qwen3.5‑0.8B 的算術與推理表現。
本文探討 Node 環境下的 Late Chunking 技術,透過先完整嵌入檔案再切分,提升 RAG 系統對關鍵詞的召回率。 - 核心方法:先用 Transformers.js 以 ONNX 版 Jina-embeddings-v2-small-en 進行整檔案前向傳遞,然後按句子或語意切分,對 token 向量做平均池化,得到每段的向量。
評估套件 透過實驗證明能捕捉失效基準中的 12 個植入缺陷,並以 11/12 的成功率展示其效能。 - 測試套件:60 個任務(算術、抽取、分類),同一套件植入 12 個故障。
導語:GPT‑6 Astra 能直接閱讀並編寫 Qwen3.5‑0.8B 的權重,僅改動 0.016% 的引數,即可將其在 MATH‑500、GSM8K 與 IFEval 的表現分別提升至 48.1%、67.1% 與 62.3%,完全不使用梯度、訓練資料或微調。
本文針對 RAG 管線進行實驗,證明檢索層不構成安全邊界,植入語料與未回答問題均能導致偽造回應。 - 攻擊成功率:12 個手寫攻擊中,80.6% 成功將植入主張載入答案。
研究概述:作者在 arXiv 發表論文,證明僅 0.1% 的預訓練資料毒化即可在 CLI AI 代理中植入可執行後門。 攻擊效果:4B 引數模型的成功率約 92%,甚至在 0.0005% 的毒化比例下仍有效。 安全啟示:資料供應必須納入 AI 代理安全清單,並提供公開的檢測方法與範例程式碼。
**研究人員對 43 個源自 1997 年 DOOM 原始碼(linuxdoom)的後裔進行「形狀」測量,發現即使程式碼被翻譯或重寫,仍能以函式長度、分支、呼叫關係等指標辨識其來源。
Ontographia 在 2,000 屬性圖譜上實驗,驗證 Intent‑first 架構可顯著提升查詢準確度並降低成本。 1. 靜態驗證失效 內部錯誤仍被接受,導致無聲錯誤。
代理在長期任務中往往會在早期犯錯,卻很少自行修正,導致後續步驟仍看似正確。 - 資料來源:UCLA、Google Research、Google DeepMind、NYU 收集 2,518 條真實代理軌跡,涵蓋 SWE‑bench、TerminalBench、BixBench 三個領域。
Nibnib 是一種針對 RP2350 等低功耗 MCU 設計的影像格式,主打每畫素 6 個週期的極速解碼。 - 解碼方式:一次讀取一個位元組,產生兩個 RGB 565 畫素,實現 4bpp 壓縮。
Hy-Nomas 是騰訊混元釋出的開源影片世界模型技術報告與基準,提供可復現的實驗平臺。 - 技術報告 已在 arXiv 釋出,詳細闡述模型架構與評估方法。
Artificial Analysis Intelligence Index v5.0 是一套結合 9 個評測資料集的綜合指標,涵蓋推理、知識、數學與程式設計四大領域。
本研究將有限單純群分類的原始證明完整地在 Lean 中形式化,並檢驗每一步的邏輯正確性。 - Lean 宣告量:43.1M,里程碑:2.05M,涵蓋 100 篇論文與書籍。
Odysseys2 是由 Carnegie Mellon University 與 Browser Use 合作開發的長期網頁代理基準,涵蓋 100 個真實網頁任務,每項任務包含 8 至 12 個通過/失敗檢查。
推薦理由:此基準提供 100 個真實網頁任務,讓研究者能直接比較各大模型在長期網路代理任務上的效能差異,並揭示不同 harness 與 judge 對結果的影響。
Basis 發布了利用 LLM 撰寫並在 Lean 中證明的解譯器,證明其行為與實際 RISC‑V 編譯後的程式完全一致。 - 驗證方法:LLM 先自動生成 WHILE 語言的形式語義,然後在 Lean 中證明該語義與編譯後的二進位在所有程式上相符,並以此推匯出四個工具(型別檢查器、程式邏輯、抽象解譯器、編譯器)。
Design Creativity Bench 是一項新 benchmark,量化 LLM 在 UI 設計創意方面的表現。 - 測試範圍:評估 16 權威 LLM(包括 OpenAI GPT‑6 Astra)在 80 個開放式 UI 任務,涵蓋兩個產品領域。
OpenAI 釋出數學論文庫,引發「Math 2.0」討論,並聚焦 AI 在數學、能源與計算控制等領域的未來趨勢。 - Math 2.0:從單純解題轉向重視說明、社群與開放研究,Terence Tao 與 Hugo Duminil-Copin 呼籲社群建設與解釋。
核心導語 本文提出 Byteification 方法,將現有子字元分割的 LLM 轉換為位元組級別運算,僅需 1% 的預訓練成本即可達到與主流 Subword LLM 相近的表現。
導語:研究顯示,LLM 在「電報體」壓縮下可將輸出文本縮減 25%–49%,並在跨模型測試中保持 99% 以上的準確率,且不需新增訓練或 API 變更。
Google 研究人員提出一種名為 RRSI 的機制,能阻止自我最佳化 AI 代理在訓練任務中記憶測試,提升其在未見任務上的表現。 - 核心特性:RRSI 透過「限制」和「審核」兩階段,控制自我最佳化流程,避免過度擬合。
Bez 是一個用 Rust 實作的瀏覽器引擎生成工具,能夠自動化從 W3C 規格、三大主流瀏覽器(Chromium、Firefox、WebKit)以及 WPT 測試產生可執行引擎。
本報告說明如何利用真實瀏覽器使用者流量構建可擴充套件的長期 RL 環境,並公開 200 個樣本供開源社群使用。 - 任務來源:來自數億筆瀏覽器代理任務,經過篩選縮減至約 1,000 萬個獨特任務。
推薦理由:本報告展示如何從真實瀏覽器流量構建可擴充套件長期 RL 環境,對研發者評估模型長期行為提供可複製實驗基礎。
Import AI 470 以多篇觀點與實驗報告,探討 AI 在網路安全、數學研究與硬體最佳化上的不同加速效應。 - Cybersecurity:2026 年漏洞報告率比 2025 年飆升,涵蓋 cURL、OpenSSL、Firefox、Microsoft 等主流專案,且 NVD、OSV 資料庫亦顯著增長。
DiG-bench 透過 70 款文字遊戲測試 AI 的自發發現能力,成為衡量創造力與探索性的基準。 - DiG-bench:由 70 款自包含文字遊戲組成,測試 AI 在未知規則環境中的探索與學習,模型 Opus 5、Fable 5、GPT‑5.5 在 Tier 6–7 取得突破。
Multiverse Computing 在其最新論文《Efficient Knowledge Distillation for LLMs: Offline Top‑K Logits and a Fused Chunked KL Loss》中提出離線 Top‑100 logits 快取與分塊 KL 損失兩項改進。
ABBEL 是一套透過自然語言信念狀態與評分,將長期互動的記憶壓縮,並在協同編碼與多目標問答等環境中顯著提升效能與訓練效率。 - 核心概念:將互動歷史抽象為「信念」(belief),並以自編碼方式評分,確保關鍵資訊被保留。