推薦理由:這項研究把重複推理改寫成可帶入新數字的 Python 函式,並比較了多項數學與科學基準的準確率和成本。
#推理
RSS 訂閱#推理
RSS
Rohan Paul@rohanpaul_ai精選品質評分6969The New Stack品質評分6464 Nvidia 用 Droid 找出 Nemotron 3 Ultra 的錯誤,Terminal-Bench 2.0 分數升至 49%
AI 助理寫程式時,可能會用錯工具、填錯引數,遇到錯誤也不會停下來修正。Nvidia 把 Factory 的 Droid 放進隔離網路,記錄這些可重現的失敗,再用約 20,000 筆資料訓練 Nemotron 3 Ultra。訓練方法 PivotRL 著重改善任務中的關鍵決定;Factory 表示,Nemotron 3 Ultra 的 Terminal-Bench 2.0 分數從 38.5% 升到 49%。不過,Factory 尚未公佈測試來單獨確認這種訓練對分數提升的影響,也沒有提供工具操作錯誤改善前後的資料。
Dev.to Top Tech品質評分5252 作者實測兩種資料裁切方式,取回整份內容讓模型更常卡住
把資料裁得更短,可能會一起刪掉決定答案的那一句;但讓模型取回原文,也不保證它答得對。作者用同一組 12 個任務比較兩種裁切方式,發現採用雜湊取回整份內容的做法,在 24 次測試中每次都會再次取回,花的 token 約是另一種方式的 2.5 倍,答對的任務也較少。另有 6 次測試反覆取回資料,直到呼叫次數用完仍沒有答案。作者認為,若取回的資料太多,模型可能被內容淹沒;把取回範圍縮小到一筆資料或一行,才比較容易用得上。
MarkTechPost精選品質評分8484 Thinking Machines 推出 Inkling 2 Mini,可在 32GB Mac 上執行
想在一般電腦上跑大型模型,常會卡在記憶體不夠。Thinking Machines 推出 Inkling 2 Mini,模型有 26.4B 個引數,檔案約 20GB,會重複運算中間層,因此能在記憶體 32GB 以上的 Mac、NVIDIA DGX Spark 或其他 VRAM 32GB 以上的 GPU 上執行,也能讀取文字和圖片。Thinking Machines 自行回報,它在 SWE-bench Verified 得分 79.2%,但在知識問答和多輪指令測試上較弱;不同廠商的測試設定可能不同,分數不宜直接當成公平比較。
推薦理由:Inkling 2 Mini 把中間層重複運算,讓約 20GB 的模型能在 32GB Mac 上執行;文中也列出它在程式開發與知識問答上的強弱。
The Decoder品質評分7373 Claude 宣稱證明黎曼猜想後,史丹佛數學家公佈全人工作品
黎曼猜想是數學界長年未解的難題,最近卻接連出現兩份聲稱能解決相關問題的證明。一名 Anthropic 數學家表示,他和 Claude 合作證明瞭黎曼猜想及更廣的廣義黎曼猜想,並把超長證明交給 Lean 逐步檢查;不過,起始問題若翻譯成程式碼時出錯,仍可能影響結果。幾小時後,史丹佛數學家公佈 Alessandro Masullo 的全人類撰寫草稿,但 Ravi Vakil 隨後表示,有人已指出其中的問題。兩份證明都還需要數學界檢查,這場接連發生的競賽也讓人看到,AI 可以協助推進數學研究,成果仍得經過嚴格驗證。
Dev.to Top Tech品質評分7171 NVIDIA 推出 Nemotron-Labs-Sigma 連續擴散語言模型
一般語言模型會一個 token 接一個 token 寫文字,Nemotron-Labs-Sigma 則改成分批生成,每批處理 64 個 token,經過多次去噪後再接著產生下一批。這個模型家族共有 14 個版本,分為 3B 和 8B,提供不同用途與運算步數的版本;權重可下載,授權也允許商業使用。NVIDIA 表示,模型可在自有裝置上執行,並公佈了速度和測試成績;不過這些數字來自 NVIDIA 內部評測,尚未經獨立驗證。文中也指出,8B 指令版在 AIME25 的成績較弱,顯示它在競賽數學方面仍有差距。
aihot精選品質評分9090 Claude 合作提出黎曼猜想證明,斯坦福數學家公佈人類草稿
黎曼猜想關係到素數如何分佈,但至今仍是數學界的重要難題。Anthropic 數學家 Levent Alpöge 表示,他和 Claude 找到黎曼猜想及廣義黎曼猜想的證明,並用 Lean 逐步檢查推理;證明分成 14 個資料包發布。數小時後,斯坦福公佈 Alessandro Masullo 獨立寫下的廣義黎曼猜想草稿,曾由數學家 Brian Conrad 審閱數月,但公佈後有人指出其中有問題。兩份成果都還需要數學界仔細核查,AI 證明也須確認起始問題是否正確轉成程式。
推薦理由:兩份廣義黎曼猜想證明各有審查路徑,AI 證明以 Lean 檢查推演,人類草稿則已被指出問題,呈現數學證明如何建立可信度。
The Decoder精選品質評分7777 Thinking Machines 推出 Inkling 2 Mini,讓模型多想幾步也少寫文字
有些模型得寫出更多文字才能多做推理,Thinking Machines 推出的開放模型 Inkling 2 Mini,改用重複運算部分層的方式,在不多生成文字的情況下延長內部推理。它能處理文字和圖片,並可在記憶體至少 32 GB 的 Mac 上本機執行。Artificial Analysis 的 Intelligence Index 給它 20 分,與 Qwen3.8 27B 同分;Thinking Machines 表示,它在程式開發測試中也有不錯的表現。
推薦理由:Inkling 2 Mini 透過重複運算部分層來延長內部推理,文章也比較了它在程式測試、速度與成本上的表現。
Dev.to Top Tech精選品質評分7979 Claude 從空資料夾打造模型,挑戰 GPT-2 的實驗結果如何?
AI 助理能不能自己做研究,除了看模型表現,也得看人在哪些地方出手。作者讓 Claude 從空資料夾開始設計、訓練模型,並在每次測試前先寫下預測和通過標準。三個關卡中,兒童故事和西洋棋都沒達標;在 HellaSwag 測試中,模型分數高於 GPT-2 small,但它的引數量是對方的 2.8 倍,和同尺寸的 GPT-2 Medium 相比大致打平。作者也檢查出部分測試題出現在訓練資料中,排除後分數仍高於 GPT-2 small。這次實驗顯示 Claude 能依明確規則執行工作、記下失敗,但選擇研究問題和處理重要決策仍由人負責。
推薦理由:這場實驗把預先訂好標準、記錄失敗和人類介入的過程攤開,呈現 AI 助理能完成明確研究任務時仍需要人決定問題。
Dev.to Top Tech品質評分4949 DaisyRose-27B 如何只靠強化學習訓練 AI 程式設計助理,取代 SFT
許多 AI 程式設計助理靠範例學寫程式,遇到終端機裡複雜的執行錯誤時,可能就不會處理。RadixArk 和 Eigent AI 訓練了 DaisyRose-27B,讓它在沙盒裡實際執行指令、觀察結果、找出錯誤再修改;訓練過程不使用 SFT 或知識蒸餾。舉例來說,它能檢視錯誤訊息和程式執行紀錄,試著修正解法。文章列出的 Terminal Bench 4.1 成績,從基礎模型的 5.6% 提升到 12.0%。這顯示讓模型從實際操作結果中學習,可能有助於它處理程式問題。
MarkTechPost精選品質評分7979 Baseten 推出 Bison-1 和 Groundhog-1 決策模型
有些工作需要 AI 判斷是否符合條件、從選項中挑答案,或給出分數,不必另外生成一段文字。Baseten 推出 Bison-1 和 Groundhog-1,兩款模型都能讀取文字與圖片,並處理最多 128k tokens 的內容;Bison-1 在 Artificial Analysis Decision Index v2.1 得 76 分,Groundhog-1 目前還沒有正式分數。兩者也可透過 Baseten API 使用,或下載 Hugging Face 上的 BF16 權重;文章列出的輸入價格分別是每 1M tokens $0.10 和 $0.035。
推薦理由:兩款模型把可處理的上下文拉長到 128k,並支援圖片輸入;評測分數、價格與部署規格可用來比較不同決策任務的需求。
Dev.to Top Tech品質評分4949 為什麼位元答對率變高,算出的總和還是錯?
電腦加法時,前一位留下的進位會影響下一位。這個實驗比較同一個神經網路的兩種演算法:一種會把前一步的狀態帶到下一步,另一種每算一位就把狀態清空。算 1 + 15 時,保留狀態的版本答對 16;清空狀態的版本卻算成 14。把數字補上很多前面的零後,清空狀態的版本雖然答對更多位元,整個答案仍是錯的。 在整理的 64,856 個案例中,保留狀態的版本全部答對;清空狀態的版本只答對 6,290 題。這說明位元答對率可能被大量容易答對的零拉高,不能代表整個算式正確。研究結果只適用於這次測試的網路和案例,也提醒我們,實際計算仍應使用精確的整數運算。
The Economic Times · ETtech品質評分7575 Anthropic 員工稱 Claude 協助證明黎曼猜想,數學界仍待檢視
黎曼猜想關係到質數如何分佈,提出一百多年來仍未解決。一名在 Anthropic 任職的數學家 Levent Alpoge 表示,他和 Claude 找到了這道難題的證明,並公開了 1,700 萬行 Lean 程式碼,讓電腦檢查數學推理是否符合規則。數學家 Alex Kontorovich 說,電腦確認程式碼通過,不代表人已經理解整份證明;克雷數學研究所也表示,從這次宣佈到真正理解成果,還有漫長而艱難的過程。宣佈後數小時,該研究所網站仍將黎曼猜想列為未解問題。
Dev.to Top Tech精選品質評分7676 Gemini 4 Hydrogen 和 GPT-6.1 Terra 評測:Hydrogen 在 9 項共同基準中贏了 8 項
挑模型時,分數較高的選項也可能比較貴,而且公開測試不一定符合自己的工作。作者比較 Gemini 4 Hydrogen 和 GPT-6.1 Terra 在 Google 模型卡上都有分數的 9 項基準,Hydrogen 贏了 8 項,Terra 則在科學類終端機測試勝出;這些結果由 Google 執行,兩款模型的測試條件可能不同。依文中列出的標準 API 費率,輸入 2,000 萬、輸出 500 萬 token,每月費用分別是 $67.50 和 $45.00。文章建議用自己的工作測試分數、費用和成功率,再決定怎麼選。
推薦理由:文章把兩款模型的公開基準分數、每百萬 token 費用與月用量試算放在一起,呈現選擇時效能和成本的取捨。
Dev.to Top Tech品質評分4848 LLM 重複率可能量錯了:把推理文字和答案混在一起會看錯
測試本機 LLM 的重複率時,如果把模型的推理文字和最後答案混在一起算,數字可能會讓人誤會。作者測試一個模型,發現混在一起的文字重複率從 76% 降到 6%;但拆開來看,答案在每種設定下都沒有重複,重複的其實是推理文字。這表示改善的主要是推理文字變少,不能直接說模型的答案更好。 所以,量重複率前要先確認工具回傳的是混合文字,還是分開的推理和答案,並說清楚自己算的是哪一種。作者也提醒,減少重複的設定可能讓答案變得不自然;有一次推理文字用完整個上下文空間,最後甚至沒有答案。
Dev.to Top Tech品質評分6868 長提示詞跨過費率門檻,GPT-6.1 Sol 和 Gemini 3.1 Pro 的費用差多少
模型 API 的費率表常只看每百萬 token 的標價,但提示詞長度一跨過門檻,整筆請求可能改用較高費率。文章比較多款模型的門檻,例如 Gemini 3.1 Pro 在 200K token 後輸入費用加倍,GPT-6.1 Sol 的門檻則是 272K。用 199,999 和 200,001 個輸入 token、再加上 10K 輸出的例子,Gemini 費用從 $0.52 跳到 $0.98,GPT-6.1 Sol 都是 $0.50。作者建議逐次記錄輸入長度,特別檢視超過門檻的請求比例,並先用自己的用量測試長請求費率;若提示詞太長,也可考慮摘要或分段。
Dev.to Top Tech品質評分5050 Claude 協助完成黎曼猜想的 Lean 證明,但作者還得把它弄懂、說清楚
程式檢查通過,只能證明證明稿符合規則,不代表作者已經看懂。Levent Alpöge 說,他和 Claude 用 Lean 完成了廣義黎曼猜想的證明,但他還沒弄懂周邊的大部分數學。這份證明被整理成 14 個部分公開;自動生成的說明檔案甚至超過 250,000 頁,裡面連「實數可以比較大小」這種基本概念都寫得很長,所以他沒有把那份檔案貼出來。這提醒我們,AI 幫忙完成程式或證明後,人還是得真正理解內容,才能把它整理清楚、講給別人聽。
hackernews100精選品質評分8787 Scott Aaronson 談 AI 宣稱證明黎曼猜想後的疑問
有訊息稱,Levent Alpöge 用 Anthropic 的模型產生了 1,740 萬行 Lean 程式碼,宣稱證明廣義黎曼猜想。Scott Aaronson 認為,Lean 證明目前沒有跡象顯示遭到漏洞利用,他押注這份證明能成立;但數學家還得花時間讀懂並整理其中的想法,才會真正接受它。他也提醒,Lean 的核心程式曾出現能證明錯誤結論的漏洞,這類問題需要修好。
推薦理由:作者把形式化證明的可信度和人類理解數學的速度放在一起討論,呈現 AI 解題成果帶來的兩種不同考驗。
François Chollet@fchollet品質評分5252hackernews100精選品質評分8686 Inkling 2 Mini 發布,可在筆電上執行的開放權重模型
模型要處理需要多步推理的工作,常得花更多時間或寫下更多推理內容。Inkling 2 Mini 會把模型中間的部分重複運算三次,作者表示,這讓它能用較少的 token 處理程式開發等任務;模型總引數為 26.4B,記憶體佔用約 20GB,也能在筆電上離線執行。它在多項同尺寸開放權重模型的程式與搜尋測試中表現突出,權重已公開;不過,多輪聊天和需要遵守許多限制的指令仍是弱項。作者也測試了重複運算對推理內容監看的影響,初步結果沒有顯示監看能力明顯變差。
推薦理由:Inkling 2 Mini以反覆運算的架構提升推理能力,文中也比較了它在程式任務、長篇推理與監看能力上的表現。
Gary Marcus@GaryMarcus品質評分5454
ARC Prize@arcprize品質評分4646Hugging Face Blog精選品質評分8383 Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,主打本機使用
本機執行大型模型時,模型大小、回答速度和能力常得互相取捨。Hugging Face 與 Thinking Machines Lab 推出 Inkling 2 Mini,這款模型能讀文字和圖片,支援 1M-token 上下文視窗;它讓 12 層模型重複運作三次,用較少的實體層數完成更多運算。文章展示了它在本機寫程式、重畫《星夜》和製作分帳網站的成果,也說明如何透過 transformers、llama.cpp 和 MLX 執行。作者表示,它在 48 項基準中的 32 項領先文中列出的其他模型;這些結果來自 Hugging Face 的測試。
推薦理由:文章以架構說明和實作展示呈現 Inkling 2 Mini 的本機使用方式,也比較它在多項基準上的表現,能看出模型設計與實際應用之間的連結。
Dev.to Top Tech品質評分6565 INT4 Absmax 量化教學:一個離群值讓 4,095 個數字歸零
用 INT4 壓縮數字時,一個特別大的數值可能讓其他數值幾乎全變成零。作者在 4,096 個數字中放入一個 60,再用同一把尺縮放整組資料,結果其他 4,095 個數字全被四捨五入成零。作者接著示範三種處理方式:把資料分組、讓離群值改走高精度計算,或把數值差異分攤到模型權重。分組能限制離群值造成的影響,但裝有離群值的那組仍會受損;選擇量化模型時,也應留意每組有多少數值共用一把尺。
vLLM Official Blog精選品質評分7575 vLLM 支援 Thinking Machines 的 Inkling 2 Mini 迴圈模型
模型把部分中間層重複運算,會讓推論時的快取和訊息傳遞更難處理。vLLM 宣佈支援 Thinking Machines 的 Inkling 2 Mini,並在 NVIDIA Blackwell、Hopper 和 DGX Spark 上提供 Day-0 支援。Inkling 2 Mini 的 12 個核心層會對每個 token 運算三次,每次各自保留 KV cache,並讀取前一次運算傳來的訊息;模型有 26B 總引數、3.5B 啟用引數,支援最多 1M tokens 的上下文。vLLM 也支援可調整運算次數的研究檢查點,讓團隊能測試速度、記憶體用量和品質之間的取捨。
推薦理由:Inkling 2 Mini 的迴圈層會讓每個核心層重複運算三次,vLLM 透過分開管理快取並融合訊息讀取來支援這種架構。
aihot精選品質評分8181 Thinking Machines Lab 發布可在筆電執行的開源權重模型 Inkling 2 Mini
想在筆電上跑 AI 模型,常會遇到模型太大、速度不夠快的問題。Thinking Machines Lab 發布開源權重模型 Inkling 2 Mini,讓模型的中間層對每個 token 重複運算三次,增加推理計算;模型總引數量為 26.4B,記憶體約需 20GB,官方表示可在記憶體至少 32GB 的 Mac 上執行。原文列出多項程式開發與工具使用測試,也說明模型在多輪對話和大量指令限制的測試中較弱。迴圈設計還會讓更多推理留在模型內部,原文的初步測試沒有看到監控能力隨迴圈增加而明顯下降。
推薦理由:迴圈架構讓模型在每個 token 上多做幾輪運算,原文也交代本機硬體門檻與推理監控實驗,可用來理解這種設計的取捨。
Artificial Analysis@ArtificialAnlys精選品質評分7575推薦理由:Inkling 2 Mini 把模型能力與啟用引數量放在同一張圖上比較,並提供模型大小、文字與圖片輸入及上下文視窗資訊,可用來瞭解它的定位。
🚨 AI News | TestingCatalog@testingcatalog品質評分6363
vLLM@vllm_project品質評分3838
OpenAI News品質評分5555 OpenAI 推出 MedChemBench,測試 AI 模型能否幫忙挑選藥物候選物
找藥物時,讓分子更能對付疾病相關蛋白,可能也會讓它更難被身體吸收,或更快分解。OpenAI 推出 MedChemBench,收錄 99 個來自研究論文的題目,測試 AI 模型能不能看懂分子結構、解讀實驗結果、挑選候選物並預測性質。評測中,GPT‑6 Astra 擅長還原分子結構與解釋證據,但挑選化合物和預測數值仍較困難。這項測試只看模型如何運用過去的研究資料,不能證明 AI 已能發現新藥或改善實驗室決策;研究者也無法排除模型先前看過相關資料的可能。
Dev.to Top Tech品質評分7373 GPT-5 用斯洛伐克語更耗 token,作者比較 204 種語言找原因
同一句話用斯洛伐克語送進 GPT-5,可能比用英文花更多 token,讓費用增加,也更快用完上下文視窗。作者用相同的 1,012 句內容測試 204 種語言和 35 種 tokenizer,發現 GPT-5 切分斯洛伐克語所需的 token 是英文的 1.68 倍;作者認為,主要原因是訓練資料中的斯洛伐克語較少。文章也提醒,選模型時要把語言造成的 token 差異算進成本,並用實際 tokenizer 計算 RAG 文字分段;token 較省也不代表模型回答得比較好。
MIT Technology Review · AI品質評分6969 METR 更新 AI 能力曲線圖,加入需要判斷力的任務
AI 模型在寫程式等容易自動檢查答案的工作上進步很快,但這能不能延伸到研究方向選擇等需要判斷力的工作,仍不清楚。METR 更新了用來比較模型與人類任務表現的曲線圖,加入設計 AI 評測和評分哲學論證等較開放的任務。最先進的模型在軟體工程上已勝過幾乎所有人類,卻還沒有設計出 METR 員工認為能用於研究的評測。這些新任務的數量不多、評分也不容易,因此目前還難以據此推算模型未來能否自動進行 AI 研究與開發。
BlockTempo 動區動趨精選品質評分7676 數學家 Levent Alpöge 聲稱與 Claude 證明黎曼猜想,完整驗證仍待確認
黎曼猜想關係到質數實際分佈和平均估計之間的差距,至今仍沒有獲公認的證明。數學家 Levent Alpöge 聲稱與 Claude 找到黎曼猜想及廣義黎曼猜想的證明,並把論證寫成 Lean 程式;他公開了四頁宣告和 14 個程式分卷連結,提到草稿曾超過 25 萬頁。Lean 可以檢查數學推導,但還要確認程式證明的命題確實對應原本的猜想,並檢查完整推導和使用的前提。外部專家仍須檢視論證,作者的聲稱也不等於已獲獨立驗證。
推薦理由:這項聲稱的關鍵不只在 Lean 程式能否編譯,還要核對程式證明的命題是否就是黎曼猜想,以及完整推導有沒有外部專家驗證。
MarkTechPost品質評分6868 RadixArk 推出 DaisyRose-27B,主打強化學習訓練的程式開發模型
RadixArk 推出開放權重模型 DaisyRose-27B,從 Qwen3.8-27B 接續訓練,只用強化學習,沒有使用監督式微調或知識蒸餾。它主要用來處理程式開發任務,支援文字和圖片輸入,採 Apache 2.0 授權。RadixArk 回報,Terminal Bench 4.1 的 pass@1 從基礎模型的 5.6 升到 12.0;另外六項公佈的基準也都高於基礎模型。不過,這些分數都是 RadixArk 自行回報,且在 HLE 的進步只有 0.4。模型提供多種精度版本,部分版本可在一張 GPU 上執行。
Dev.to Top Tech品質評分5252 如何在正式服務環境中調整推測解碼,讓 vLLM 推論更快
推測解碼不一定能讓模型在所有流量下都變快,草稿 token 太多或同時處理的請求太多,都可能抵銷加速效果。文章建議先依模型和工作負載選方法,再根據草稿 token 的接受率調整數量,並在低、中、高流量下比較開啟與關閉推測解碼的結果。評估時要看每個 token 的延遲和吞吐量,不能只看第一個 token 出現的時間。vLLM 的標準拒絕取樣在硬體數值精度範圍內不改變輸出分佈;會放寬驗證的方式則可能改變結果。
The Verge · AI品質評分7070 Anthropic 數學家稱與 Claude 合作證明黎曼猜想
Anthropic 數學家 Levent Alpöge 聲稱,他和 Claude 合作提出了黎曼猜想的證明。這個猜想關係到質數如何分佈,是著名的千禧年大獎難題之一;他的證明以 Lean 撰寫,目前只公佈在個人網站,還沒有獲得獨立驗證。Anthropic 沒有參與或評論這項宣佈。依克雷數學研究所的規則,解答須公開接受至少兩年檢視,並獲數學界普遍接受,才可能列入獎項考量。這項宣稱能否成立,仍要看後續審查結果。
Rohan Paul@rohanpaul_ai品質評分6262Dev.to Top Tech精選品質評分8282 vLLM 推測解碼教學:EAGLE、MTP 和草稿模型何時能加速?
大型模型逐字產生內容時,常受記憶體讀取速度限制;推測解碼會先讓較小的草稿模型猜幾個 token,再由目標模型一次檢查,留下它認可的部分。文章用公式說明接受率和草稿成本如何影響速度,並比較 vLLM 0.33.0 的 ngram、草稿模型、EAGLE、MTP 和 dflash/dspark 等方法。作者也提醒,接受率太低或同時處理的請求太多時,額外草稿可能拖慢速度;應依自己的硬體和工作量調整草稿長度與批次設定。文中引用的測試結果來自各研究與團隊,作者沒有自行測試。
推薦理由:文章用接受率與草稿成本說明推測解碼何時能縮短生成時間,也指出批次變大時加速可能消失,提供調整設定的實用判斷方式。
ARC Prize@arcprize品質評分5252
hackernews100品質評分6565 DeepMind Institute 分析 AGI 之後可能走向哪裡
如果 AI 達到和人類差不多的能力,接下來還可能變得多強?DeepMind Institute 認為,AI 助理數量增加、運作成本降低,可能讓許多知識工作像工業生產一樣大量自動化;AI 也可能透過模型與資料擴大、技術改變、協調大量 AI 助理,或協助改良後續 AI,走向超越人類專家的能力。這些路徑都不確定,但文章主張要持續建立評量方法、追蹤進展,並準備因應對科學、經濟與社會的影響。