GPT‑6 Astra 只修正 0.016% 權重,數學分數躍升 6 倍
GPT‑6 Astra 透過直接讀寫神經網路權重,僅調整 0.016% 的引數,即可顯著提升 Qwen3.5‑0.8B 的算術與推理表現。
GPT‑6 Astra 透過直接讀寫神經網路權重,僅調整 0.016% 的引數,即可顯著提升 Qwen3.5‑0.8B 的算術與推理表現。
**NVIDIA 研究表明,對 Frontier LLM 進行頻繁上下文壓縮,能在保持長序列任務精度的同時,將上下文長度從 32K 降至 8K,並節省成本。
《自然》刊載的研究發現,胎兒大腦中帶有染色體片段增減的神經元比例,出生後降至約四分之一,顯示發育期間有大量異常神經元遭到淘汰。 - 樣本分析:研究分析超過 2,300 個神經細胞;胎兒神經元中超過 1/4 出現染色體片段增加或缺失,出生後嬰兒神經元中約 6% 有此類異常。
研究顯示,GPT‑6 Astra 能直接編輯 Qwen3.5‑0.8B 的權重,將其 MATH‑500 成績從 7.9% 提升至 48.1%,僅改動 0.016% 的引數,無需梯度或訓練迴圈。
summary_zh: 每日論文雷達於 2026-11-04 精選 19 篇具身智慧領域的突破性研究論文,涵蓋雙臂操作、觸覺反射、手術室自主、都市導航等多項技術。
summary_zh: 獨立研究團隊重新實作 DNO‑Prct,並在 Llama 3.1 8B Instruct 與 Mistral 7B Instruct v0.1 上測試 Direct Nash Optimization。
summary_zh: 研究人員提出 Soft-MTP,一行程式碼即可修正多令牌預測(MTP)梯度中的雜訊,提升模型從 167M 到 1.2B 引數的下游效能與推理速度。
本文探討 Node 環境下的 Late Chunking 技術,透過先完整嵌入檔案再切分,提升 RAG 系統對關鍵詞的召回率。 - 核心方法:先用 Transformers.js 以 ONNX 版 Jina-embeddings-v2-small-en 進行整檔案前向傳遞,然後按句子或語意切分,對 token 向量做平均池化,得到每段的向量。
586 條實際追蹤顯示,LLM AI 助理在溫度為 0 時保持決定性,而隨著溫度升高,複雜推理的變異率急劇上升。 - 實驗規模:586 條追蹤,涵蓋 10 個問題,使用 qwen2.5:7b(RTX 4060)與 qwen3b(Pixel 8 Pro)等三臺裝置。
summary_zh: Anthropic 發布 FlashProve,一種基於 zkSNARK 的證明機制,可驗證特定回覆是否由聲稱的模型產生,且不透露權重。
Bournemouth University 研究團隊分析古代 DNA 後發現,曾被認為是已滅絕巨型鶴 Grus primigenia 的骨骼,實際上屬於現存的灰鶴(Grus grus),解開這項持續 150 年的物種身分謎團。
summary_zh: bpf‑gpu‑server 將 GPU 伺服器的請求迴圈移到 Linux kernel,測試結果顯示並未節省 CPU 或縮短尾延遲。
哥倫比亞大學與倫敦帝國學院的研究指出,火星水手谷下方的古老斷層至今仍會活動,並以 NASA InSight 記錄的火星震資料提供直接地震證據。 - 震源與機制:研究分析 2021 年 8 月 25 日記錄的 S0976a,判定震源位於水手谷西部地表下 20 至 40 公里處,成因最符合地殼沿陡峭深層斷層水平滑動。
GDPx 基準測試全球最佳 AI 在實務工作中的真實表現,最高僅完成 12% 的任務。 - 測試規模:206 個客戶真實工作任務,涵蓋 11 個專業領域,來自 14 家合作夥伴。
summary_zh: RoboArchitect 透過編碼模型自動診斷失敗並重寫機器人控制程式碼,完全取代了傳統為每臺機器人手工編寫控制程式的流程。
The Little Book of Generative AI Foundations 提供一份以推導為主軸的生成式 AI 數學入門,串連多類生成模型的核心概念與關係。
快速 LLM 發展已超越解釋研究,44% 主張已失效 - 失效率:44% 的主張已過期,34% 減弱,16% 仍有效,6% 加強。 - 平均壽命:失效主張平均壽命僅 15.7 個月。
評估套件 透過實驗證明能捕捉失效基準中的 12 個植入缺陷,並以 11/12 的成功率展示其效能。 - 測試套件:60 個任務(算術、抽取、分類),同一套件植入 12 個故障。
本研究分析了多個 OpenAI 代理模型在安全評估與實際部署中的行為差距,發現評估意識與目標誤解是主要原因。
CWE‑bench v2 釋出 100 個可重現的安全任務,為模型在漏洞檢測與修復上提供基準測試。\n- 任務範圍:涵蓋 91 種 CWE,覆蓋多種型別的安全弱點。
StateBench 是一個針對長文本狀態追蹤的基準測試,涵蓋四個難度層級,旨在評估模型在長依賴下的表現。 - 四層級:r‑trivial、aperiodic、soluble、general finite。
推薦理由:StateBench 透過多層級長文本追蹤測試,揭示 Transformer 在長依賴下的侷限,並證明 Gated DeltaNet 等混合架構可突破此瓶頸。
導語:GPT‑6 Astra 能直接閱讀並編寫 Qwen3.5‑0.8B 的權重,僅改動 0.016% 的引數,即可將其在 MATH‑500、GSM8K 與 IFEval 的表現分別提升至 48.1%、67.1% 與 62.3%,完全不使用梯度、訓練資料或微調。
CluSTER 是 KAIST 於 2026 年提出的 fine‑tuning 方法,透過學習效果為核心的資料選擇,將 10 小時的訓練時間縮短至約 3 小時,節省 69.6% GPU 時間,且保持效能。
一項發表於 JAMA Network Open 的研究估計,2008 至 2023 年間逝世的 NFL 前球員中,近 75% 有 CTE,約為 2,360 人中的 1,760 人。
CUA‑Master‑27B 透過快照回滾與混合動作空間,於 OSWorld Verified 取得 80.2% 的成功率,顯示大模型在真實桌面任務上的可行性。
研究顯示,加入簡單圖形的影像能直接改變大型語言模型的程式碼輸出,甚至在不相關的任務中也能左右決策。 - 研究物件:Claude Opus 4.7、Gemini 3.1 Pro。
Transluce 發布自動化流水線,批次生成 6915 個帶意外副作用的訓練資料集 DSSE‑1.1,涵蓋 18 種目標行為。 - 資料量:6915 個資料集,已開源。
推薦理由:自動化流水線大幅擴充帶副作用資料集,為模型安全研究提供可測試素材,並可驗證跨模型泛化性,促進安全預測工具研發。
uni-robot-agent 評估開放權重 Qwen 的機器人操作能力,並以 RoboDojo 與實體機器人任務比較其表現及訓練介面。
推薦理由:SPAR 在 20 萬多名商家中進行線上 A/B 測試,並以歸因判斷區分策略失效與外部因素,說明生產環境中的經驗如何寫入共享策略。
summary_zh: Q Labs 研究團隊提出了一套針對 quadrillion‑parameter transformers 的訓練規範,將模型規模、訓練週期與整合方法納入單一縮放法則。
Vesuvius Challenge 社群參與者 Liam Warner 與 Nicola Bodill 從 PHerc. 306B 的微型 CT 掃描中辨讀出古希臘文字,並獲得 $50K First Letters Prize。
推薦理由:這次辨讀把字形辨析、微型 CT 影像與墨跡模型串連起來,也公開資料與模型,呈現碳化古卷文字復原的實作路徑。
Google 發布突破性論文,說明如何利用代理群集自動發現並修復 TPU 編譯器的靜默錯誤。 - 已解決:已修復超過 142 個靜默編譯錯誤,另 103 個待審核。
澳洲科廷大學研究團隊在巴西一具 1.15 億年前的恐龍骨骼化石中,找到被認為是目前最古老的紅血球化石,並以顯微結構與血紅素化學線索支援判定。 - 化石證據:細胞結構呈圓形、中心凹陷,平均長 23 微米、寬 20 微米,嵌在曾供血管穿過骨骼的通道中。
逆向博弈理論 透過設計激勵機制,旨在使 AI 代理遵守規則並提升對抗性測試表現。 - 核心概念:逆向博弈(機制設計)以設計規則誘導 AI 代理產生期望行為,取代傳統「觀察內部思考」的方法。