跳到正文

推理能力

模型推理能力的進展:思維鏈、推理模型、數學與邏輯基準的突破與爭議。

最新精選

第 1–20 條 · 共 255 條
今天11月23日週一
  1. Dev.to Top Tech89

    Claude 協助證明黎曼猜想,數學家用 Lean 電腦檢查通過

    黎曼猜想關於質數如何分佈,提出至今已有 167 年,長久以來都沒有解答。Anthropic 數學家 Levent Alpöge 表示,他和 Claude 一起寫出證明,並用 Lean 這套能逐步檢查數學推理的程式語言整理;獨立研究者也分別用電腦檢查,沒有發現問題。不過,數學界還需要弄懂這份證明的內容,Clay Mathematics Institute 也還沒決定是否頒發 $1 million 獎金。文章同時提到,另一份由人類獨立完成的廣義黎曼猜想證明尚未用 Lean 檢查,因此狀態不同。

    推薦理由:文章整理了 Lean 電腦檢查、數學家評語與尚待釐清之處,呈現這項宣稱如何受到驗證及目前仍缺少的白話說明。

11月22日週日
  1. The New Stack77

    GPT-6.2 Astra 和 Claude Fable 5.2 實測:準確度接近,費用與速度差很多

    選模型時,答得準不準只是其中一件事,花多少錢、等多久也會影響實際使用。作者用月底帳務、帳務程式修正和實驗室資料分析三種工作比較 GPT-6.2 Astra 與 Claude Fable 5.2;兩者在帳務和資料分析都拿滿分,Fable 5.2 在程式測試多拿 2 分。整體來看,Astra 花費較低、完成較快,但在程式測試中漏掉一條會影響顧客帳單的規則。作者建議先讓 Astra 重做幾次並比對結果,有錯誤或差異時,再用 Fable 5.2 複核。

    推薦理由:三種工作測試顯示兩個模型的準確度接近,但花費和完成時間差距很大,能幫助讀者依錯誤代價選擇模型與複核方式。

  2. Dev.to Top Tech82

    黎曼猜想出現新的聲稱證明,該怎麼判讀?

    有人宣稱解開了黎曼猜想,但數學界還需要時間確認證明是否成立。Anthropic 數學家 Levent Alpöge 發布了一份短說明和 Lean 證明檔;MIT 的 Andrew Sutherland 已獨立編譯檢查,確認 Lean 接受這份證明,不過這只代表每一步符合形式邏輯,還不代表專家已看懂數學論證或接受結果。文章建議檢視證明檔能否獨立執行、由誰檢查、宣稱用詞是否準確,以及發布時機背後的利害關係。在數學界完成審查前,應保留「聲稱證明」的說法。

    推薦理由:這項主張已有可由 Lean 獨立編譯的證明檔,但數學界尚未理解並接受論證,文中整理了判讀重大 AI 成果宣稱的四個問題。

  3. Dev.to Top Tech78

    PagedAttention 如何減少大型語言模型服務時的記憶體浪費

    大型語言模型回答問題時,會把讀過的文字留在 KV cache;如果每個請求一開始就預留一大段記憶體,很多空間會被佔著,其他請求也用不到。作者用停車位和小型互動示範,解釋 PagedAttention 如何把記憶體切成固定大小的區塊,需要時才分配,並用對照表記下區塊位置。多個請求也能共用相同提示詞的資料,只有內容要改動時才複製區塊。這能減少閒置空間,讓同一批記憶體容納更多請求;作者也提醒,區塊較大時空位會增加,太小則可能影響 GPU 平行處理。

    推薦理由:文章從 KV cache 的記憶體浪費談起,再用互動式示範比較分頁配置與連續配置,說明記憶體管理如何影響同時服務的請求數。

  4. Dev.to Top Tech82

    Together AI 上架 Qwen4 Max,支援 1M token 上下文

    把大型程式專案交給模型處理,常會遇到內容太多放不進去的問題。Together AI 已在免管理推論服務上架 Alibaba 的 Qwen4 Max,可一次讀取文字和圖片,也能呼叫工具。Together 用一個 Tornado 錯誤回報和整個專案測試它,模型提出的修補通過了針對該錯誤的兩項測試,套用後整套 1,673 項測試也沒有失敗;這是單一案例,不是基準測試。服務只接受串流請求,思考功能預設開啟,思考用掉的 token 也會計入輸出費用;把程式碼送到雲端前,還要先檢查專案裡有沒有機密資料。

    推薦理由:Together AI 的單次測試把整個 Tornado 專案交給模型修補錯誤,呈現超長上下文處理程式碼的實際用法與限制。

  5. Dev.to Top Tech81

    Inkling 2 Mini 如何用重複運算,讓 26.4B 引數模型裝進約 20GB

    模型引數多,常會需要更多記憶體;Inkling 2 Mini 用一種重複運算的方法,讓模型可以裝進約 20GB。它會讓中間幾層重複處理同一份資料,因此用同一批引數多算幾次,而不是一直增加新引數。模型共有 26.4B 引數,每個 token 只啟用 3.4B,文章說可在 32GB Mac 上執行。它在 SWE-bench Verified 得到 79.2%,但這些成績來自團隊自己的測試,還沒有獨立重現;文章也提到,不同來源對重複運算的次數說法不一。

    推薦理由:文章以 Inkling 2 Mini 的引數規模、記憶體需求與程式基準比較,說明重複使用部分層如何用更多運算換取較小模型,並交代測試仍來自實驗室。

  6. hackernews10089

    Andrew Sutherland 公開黎曼猜想 Lean 證明的檢查結果

    數學證明寫進 Lean 後,還得確認程式沒有漏掉條件,也沒有偷偷依賴不該用的公理。Andrew Sutherland 公開黎曼猜想 Lean 證明的檢查檔,列出編譯、獨立重建,以及多種核心和工具逐一檢查的結果;頁面所列的五個主要定理都通過多項檢查,並只使用三個標準公理。內容也涵蓋狄利克雷 L 函式的廣義黎曼猜想,以及由此得到的兩個數論結果。這些結論是依照 Lean 中 Mathlib 對相關數學概念的定義成立;部分檢查當時仍在進行,頁面提醒結果以形式化陳述和所用檢查工具為準。

    推薦理由:多種獨立核心與重建流程都接受這份 Lean 證明,頁面也說明它依賴 Mathlib 的定義,並列出仍在進行的檢查。

  7. Rohan Paul72

    英國隱語填字常用容易誤導人的文字遊戲藏起答案,而且只要填錯一格,就排在所有全對的解答之後。UT Austin 論文介紹的系統 Darmok,在 2026 年 Times Crossword Championship 解完全部 7 道題,沒有出錯,並在決賽中比人類冠軍快 3 分 13 秒。決賽時,主要服務明顯變慢,備援方式補上 30 個答案中的 17 個。這場比賽也顯示,系統遇到服務延遲時,備援路徑能協助完成作答。

    推薦理由:英國隱語填字的規則讓一格錯誤就失去完美解答,這套系統在決賽遇上服務變慢時,也靠備援路徑補上部分答案。

  8. Together AI Official Blog84

    Qwen4 Max 在 Together AI 上線,單次請求修補 Tornado 錯誤

    要找出大型程式專案裡的錯誤,常得先挑出相關檔案;Together AI 把整個 Tornado 專案和錯誤描述一次交給 Qwen4 Max,沒有使用工具或先搜尋檔案。模型在 72 秒內提出修補程式,找出兩個關鍵檔案,修補後通過維護者為該錯誤寫的兩項測試,也通過整套 1,673 項測試;這次請求費用為 69 美分。文章也說明瞭服務價格、串流使用方式與提示詞快取。這是單一案例,展示模型處理大型程式專案的方式與成本。

    推薦理由:這次測試把整個 Tornado 專案和錯誤描述放進單次請求,呈現 Qwen4 Max 修補程式、通過測試所需的時間與費用。

  9. Together AI64

    修正程式碼時,要先從大量檔案中找出問題所在。Together AI 表示,他們把一份錯誤回報和 Tornado 專案的 344 個檔案一次交給 Qwen4 Max,模型找出相關程式碼並寫好修補內容。接著執行了 Tornado 的 1,673 項測試,沒有失敗;這次請求花了 $0.69。貼文也提到,Qwen4 Max 在 Together AI 上的優惠到 11 月 22 日為止。

    推薦理由:Together AI 用修正 Tornado 程式碼的案例呈現 Qwen4 Max 的實際用途,並列出測試結果與單次請求費用。

  10. aihot78

    Columbia 與 MIT 論文展示 Claude 找到更快的 3SUM 與 APSP 演算法

    3SUM 和全對最短路徑都是長期難以加快的問題,研究者過去認為它們的運算時間很難再改善。Columbia 與 MIT 的論文指出,Claude 找到一種更快計算長而窄矩陣中特定元素的方法,再透過已知的轉換,讓 3SUM 的時間降到 O(n^1.9992),全對最短路徑降到 O(n^2.9995)。這些改善幅度不大,卻足以推翻相關的難度猜想;研究也用 Lean 4 形式化驗證證明。

    推薦理由:這項研究展示 Claude 如何從矩陣乘法問題找到更快演算法,再透過已知轉換改善 3SUM 與 APSP 的運算時間。

  11. Rohan Paul69

    LLM 遇到題目換個說法或數字,常會重新推理一次,讓重複工作花上更多成本。這篇 NVIDIA 論文讓 Claude Opus 4.5 把推理過程轉成可替換輸入的 Python 函式,之後由 CPU 執行;只有像擷取數值這類小型文字工作,才交給微調過的 1B 模型處理。這套方法在 8 項數學與科學基準中的 7 項,準確率追平或高於原模型;在 AIME '25 的分數是 93.3%,原模型是 83.3%。研究也指出,遇到改寫或換數字的題目時,這種做法至少能處理 90%,成本可降低 16 到 291 倍。

    推薦理由:這項研究把重複推理改寫成可帶入新數字的 Python 函式,並比較了多項數學與科學基準的準確率和成本。

11月21日週六
  1. MarkTechPost83

    Thinking Machines 推出 Inkling 2 Mini,可在 32GB Mac 上執行

    想在自己的電腦上執行大型模型,常會卡在記憶體不夠。Thinking Machines 推出的 Inkling 2 Mini 有 26.4B 個引數,模型檔約 20GB;它會把中間幾層重複運算,減少需要存放的權重,可在 32GB 記憶體的 Mac 上執行,也支援輸入文字和圖片。Thinking Machines 表示,它在 SWE-bench Verified 的分數是 79.2%,但知識問答和多輪指令的表現較弱;文中的評測分數由該公司自行提供,不同模型的測試條件也可能不同。

    推薦理由:Inkling 2 Mini 把中間層重複運算,讓約 20GB 的模型能在 32GB 記憶體的 Mac 上執行;文中也比較了它在程式開發與知識問答上的表現。

  2. aihot90

    Claude 合作提出黎曼猜想證明,斯坦福數學家公佈人類草稿

    黎曼猜想關係到素數如何分佈,但至今仍是數學界的重要難題。Anthropic 數學家 Levent Alpöge 表示,他和 Claude 找到黎曼猜想及廣義黎曼猜想的證明,並用 Lean 逐步檢查推理;證明分成 14 個資料包發布。數小時後,斯坦福公佈 Alessandro Masullo 獨立寫下的廣義黎曼猜想草稿,曾由數學家 Brian Conrad 審閱數月,但公佈後有人指出其中有問題。兩份成果都還需要數學界仔細核查,AI 證明也須確認起始問題是否正確轉成程式。

    推薦理由:兩份廣義黎曼猜想證明各有審查路徑,AI 證明以 Lean 檢查推演,人類草稿則已被指出問題,呈現數學證明如何建立可信度。

  3. The Decoder77

    Thinking Machines 推出 Inkling 2 Mini,讓模型多想幾步也少寫文字

    有些模型得寫出更多文字才能多做推理,Thinking Machines 推出的開放模型 Inkling 2 Mini,改用重複運算部分層的方式,在不多生成文字的情況下延長內部推理。它能處理文字和圖片,並可在記憶體至少 32 GB 的 Mac 上本機執行。Artificial Analysis 的 Intelligence Index 給它 20 分,與 Qwen3.8 27B 同分;Thinking Machines 表示,它在程式開發測試中也有不錯的表現。

    推薦理由:Inkling 2 Mini 透過重複運算部分層來延長內部推理,文章也比較了它在程式測試、速度與成本上的表現。

  4. Dev.to Top Tech79

    Claude 從空資料夾打造模型,挑戰 GPT-2 的實驗結果如何?

    AI 助理能不能自己做研究,除了看模型表現,也得看人在哪些地方出手。作者讓 Claude 從空資料夾開始設計、訓練模型,並在每次測試前先寫下預測和通過標準。三個關卡中,兒童故事和西洋棋都沒達標;在 HellaSwag 測試中,模型分數高於 GPT-2 small,但它的引數量是對方的 2.8 倍,和同尺寸的 GPT-2 Medium 相比大致打平。作者也檢查出部分測試題出現在訓練資料中,排除後分數仍高於 GPT-2 small。這次實驗顯示 Claude 能依明確規則執行工作、記下失敗,但選擇研究問題和處理重要決策仍由人負責。

    推薦理由:這場實驗把預先訂好標準、記錄失敗和人類介入的過程攤開,呈現 AI 助理能完成明確研究任務時仍需要人決定問題。

  5. MarkTechPost79

    Baseten 推出 Bison-1 和 Groundhog-1 決策模型

    有些工作需要 AI 判斷是否符合條件、從選項中挑答案,或給出分數,不必另外生成一段文字。Baseten 推出 Bison-1 和 Groundhog-1,兩款模型都能讀取文字與圖片,並處理最多 128k tokens 的內容;Bison-1 在 Artificial Analysis Decision Index v2.1 得 76 分,Groundhog-1 目前還沒有正式分數。兩者也可透過 Baseten API 使用,或下載 Hugging Face 上的 BF16 權重;文章列出的輸入價格分別是每 1M tokens $0.10 和 $0.035。

    推薦理由:兩款模型把可處理的上下文拉長到 128k,並支援圖片輸入;評測分數、價格與部署規格可用來比較不同決策任務的需求。

  6. Dev.to Top Tech76

    Gemini 4 Hydrogen 和 GPT-6.1 Terra 評測:Hydrogen 在 9 項共同基準中贏了 8 項

    挑模型時,分數較高的選項也可能比較貴,而且公開測試不一定符合自己的工作。作者比較 Gemini 4 Hydrogen 和 GPT-6.1 Terra 在 Google 模型卡上都有分數的 9 項基準,Hydrogen 贏了 8 項,Terra 則在科學類終端機測試勝出;這些結果由 Google 執行,兩款模型的測試條件可能不同。依文中列出的標準 API 費率,輸入 2,000 萬、輸出 500 萬 token,每月費用分別是 $67.50 和 $45.00。文章建議用自己的工作測試分數、費用和成功率,再決定怎麼選。

    推薦理由:文章把兩款模型的公開基準分數、每百萬 token 費用與月用量試算放在一起,呈現選擇時效能和成本的取捨。

  7. hackernews10087

    Scott Aaronson 談 AI 宣稱證明黎曼猜想後的疑問

    有訊息稱,Levent Alpöge 用 Anthropic 的模型產生了 1,740 萬行 Lean 程式碼,宣稱證明廣義黎曼猜想。Scott Aaronson 認為,Lean 證明目前沒有跡象顯示遭到漏洞利用,他押注這份證明能成立;但數學家還得花時間讀懂並整理其中的想法,才會真正接受它。他也提醒,Lean 的核心程式曾出現能證明錯誤結論的漏洞,這類問題需要修好。

    推薦理由:作者把形式化證明的可信度和人類理解數學的速度放在一起討論,呈現 AI 解題成果帶來的兩種不同考驗。

  8. hackernews10086

    Inkling 2 Mini 發布,可在筆電上執行的開放權重模型

    模型要處理需要多步推理的工作,常得花更多時間或寫下更多推理內容。Inkling 2 Mini 會把模型中間的部分重複運算三次,作者表示,這讓它能用較少的 token 處理程式開發等任務;模型總引數為 26.4B,記憶體佔用約 20GB,也能在筆電上離線執行。它在多項同尺寸開放權重模型的程式與搜尋測試中表現突出,權重已公開;不過,多輪聊天和需要遵守許多限制的指令仍是弱項。作者也測試了重複運算對推理內容監看的影響,初步結果沒有顯示監看能力明顯變差。

    推薦理由:Inkling 2 Mini以反覆運算的架構提升推理能力,文中也比較了它在程式任務、長篇推理與監看能力上的表現。