跳到正文

推理能力

模型推理能力的進展:思維鏈、推理模型、數學與邏輯基準的突破與爭議。

最新精選

第 121–140 條 · 共 257 條
11月15日週日
  1. Dev.to Top Tech76

    Anthropic 教你用 Claude Opus 5.5 處理日常知識工作

    用 AI 助理做研究、分析和檔案時,舊的提示詞習慣可能讓回覆變慢,也不一定讓成果更好。Anthropic 建議把 Claude Opus 5.5 當作日常工作模型,先用 Medium 努力程度,並在第一則訊息說清楚想完成什麼;「think hard」這類要求可以刪掉,圖表則直接附上,不必重新打成文字。Anthropic 表示,在自家評測中,Opus 5.5 用 Medium 的表現達到或超過 Opus 5 用 High。Opus 5.5 的自適應思考也無法關閉,努力程度是可調整的控制方式。

    推薦理由:Anthropic 說明 Opus 5.5 的推理深度由模型自行調整,並整理出可直接套用的提示詞習慣與工作設定。

11月14日週六
  1. Artificial Analysis62

    Perplexity 更新了 Decider v1.3 和 Decider Flash v1.3,兩款都是用來處理決策任務的模型。Artificial Analysis 的 Decision Index v2.1 給兩者 70 分和 64 分;和 v1.2 相比,Flash 版進步 4 分,排名升到第 10 名。Decider v1.3 在 AA-Paperclip 得 69 分,在 EvalSafe-O*NET-AA 得 89 分。兩款模型每百萬項任務的成本分別是 $68 和 $34;它們都位在該評測的能力與成本取捨曲線上。

    推薦理由:兩個版本的測試排名與每百萬項任務成本放在一起,能看出不同規模模型在決策表現和費用上的取捨。

  2. Microsoft ONNX Runtime Releases73

    ONNX Runtime CUDA Plugin EP 0.4.0 加入 CPU 與 GPU 混合執行 MoE 模型

    大型 MoE 模型的專家層可能超出 GPU 記憶體容量,讓模型難以執行。ONNX Runtime CUDA Plugin EP 0.4.0 新增 CPU 與 GPU 混合解除安裝功能:放得下的專家留在 GPU,其他專家改由 CPU 處理,也能在執行過程中把常用專家移到 GPU。這項功能需要搭配 ONNX Runtime 1.32.0;版本或運算元格式不相符時,可能造成執行錯誤或程式崩潰。更新也加入直接執行 GGUF 等區塊量化權重的運算元,以及長上下文和推測解碼加速。

    推薦理由:這次更新把 MoE 模型的專家層分散到 CPU 與 GPU 執行,也補上多種量化格式支援,能協助評估 GPU 記憶體不足時的部署選項。

  3. Rohan Paul71

    大型模型通常需要很多 GPU 記憶體,也要花不少時間訓練。Thinking Machines Lab 開源了 594B 引數的 Inkling 2 Small,採用 4-bit 前向運算訓練;這讓預訓練時間縮短 8%、RL 時間縮短 20%,效率約損失 2%。執行模型時,NVFP4 至少需要 500GB GPU 記憶體,MXFP8 至少需要 800GB;後者在評測上只高出約 1–2 個百分點。團隊也說,訓練從預訓練到最後一次 RL rollout 都維持相同數值設定,因此釋出的 4-bit 模型不需要另外校準。

    推薦理由:這次發布交代了 4-bit 訓練節省的時間與效率代價,也比較 NVFP4 和 MXFP8 的記憶體需求及評測差距。

  4. aihot84

    Google 開放 Antigravity 的 /teamwork,讓研究者使用多個 AI 助理協作

    研究和工程工作常要查大量資料、測試不同做法,還得確認每一步都正確。Google 開放 Antigravity 的 /teamwork,讓多個 AI 助理分工處理長時間任務,再用 Lean 4、測試套件或硬體計時等方式檢查結果。Google 展示了它在數學證明、分子結構推斷和程式最佳化上的成果,例如一項分子結構基準測試達到 95% 的 top-1 精確匹配。研究者和開發者可透過 Antigravity 使用這些工具;Google 也開放申請,讓 10,000 名學術研究者免費使用最高用量級距六個月。

    推薦理由:Google 展示 /teamwork 在數學證明、分子結構推斷與程式最佳化的實例,並說明如何用獨立檢查流程驗證成果。

  5. Google Research85

    Google 開放 Antigravity 的 /teamwork,讓 AI 助理協作研究與工程工作

    研究和工程工作常要處理大量資料、反覆試錯,還得確認每一步都正確。Google 在 Antigravity 開放 /teamwork 和 /boost,讓多個 AI 助理分工探索,再用 Lean 4、軟體測試或硬體量測檢查結果。Google 分享的案例包括協助研究者完成數學證明、找出分子結構,以及改寫系統程式;研究者仍負責提出問題和確認成果。學術研究者也可申請六個月免費使用最高用量方案。

    推薦理由:Google展示 /teamwork 如何把長時間研究拆成多個可檢查的步驟,並用形式驗證、測試與硬體量測篩選結果,呈現多 AI 助理協作的實際做法。

  6. Hacker News (official RSS)79

    Dwarkesh Patel 分析 AI 助理何時能媲美頂尖 AI 研究員

    AI 已能解出一些過去很難的數學問題,這讓作者重新思考 AI 何時能做好 AI 研究。他認為,許多研究工作可以透過實驗結果檢查,AI 助理便能反覆嘗試不同方法,也能把大量工作分給許多 AI 助理並行處理。作者估計,AI 助理可能在 2028 年媲美最頂尖的 AI 研究員;自動化研究或讓 AI 進步大幅加快。不過,持續學習、實驗所需的算力,以及研究想法越來越難找,都可能拖慢這個過程。

    推薦理由:作者以數學研究的可驗證進展作為參照,推演 AI 研究自動化可能如何加快模型進步,也列出持續學習與實驗算力等限制。

  7. Hacker News (official RSS)78

    OpenAI 解散獨立機器人團隊,改由通用模型團隊接手

    OpenAI 把獨立的機器人研究團隊拆分,研究人員改加入通用研究與應用團隊。公司表示,這是為了加快打造通用機器人,因為 GPT-6 Astra 等通用模型已能直接用於部分機器人任務。研究人員也測試過讓 Astra 操控模擬機器人,在一項模擬操作測試中成功率為 74.8%;這不是實體機器人的測試結果。報導也提到,通用模型需要雲端連線,反應速度較慢,因此能在機器人本機運作的小型專用模型仍有用途;機器人在工廠等現場累積的經驗,也能幫助它適應特定工作。

    推薦理由:OpenAI 將機器人研究人員併入通用 AI 團隊,反映公司押注通用模型能直接控制機器人,也呈現專用模型與現場經驗的不同價值。

  8. Hacker News (official RSS)83

    Claude 協助解讀 Gödel 手稿,找到數百個未公開的定理

    Gödel 留下大量難讀的數學手稿,研究者原本每週只能看懂約一頁。研究者 Jan von Plato 把手稿的轉錄內容和相關書籍交給 Claude,幾天內就得到一份整理,並找到 663 個定理、證明草稿或證明構想。這些結果再交給 Coq 檢查,約 400 個按原樣成立,約 200 個經修正後成立,約 50 個則是錯的。研究者認為手稿還藏有未深入研究的數學想法;不過,專家提醒,即使手稿和後來的證明相似,也不能只憑這點認定 Gödel 已完成該成果,AI 和作者各自的貢獻仍需分清楚。

    推薦理由:Claude 協助整理上千頁手稿,並把找到的定理交由 Coq 檢查,呈現 AI 如何幫研究者串起大量資料,也保留了歷史歸功上的爭議。

  9. Hugging Face Blog65

    Hugging Face 發布 XYBench,測試 AI 助理能否看出問題問錯了

    有時候,人問的問題不是解決麻煩的好方法,例如蛋糕還太熱,卻一直想找讓糖霜黏住的方法。Hugging Face 與研究人員推出 XYBench,收錄 8,115 個程式和日常生活問題,用來測試 AI 助理能不能看出使用者真正想達成的目標,並把回答帶向更合適的解法。測試發現,受測模型常會回答使用者原本問的方法,較少把真正的目標放在回答重點;即使模型在選擇題中能挑出較好的建議,也不一定會在自己回答時這麼做。這項基準目前以英文和程式性問題為主。

    推薦理由:XYBench 比較模型回答字面問題與真正目標的差異,也呈現模型辨認出好建議後,仍未必能在作答時優先採用。

  10. Thurrott82

    Google 推出 Gemini 4 Hydrogen,讓所有人都能在搜尋中使用

    Google 推出 Gemini 4 Hydrogen,讓所有人都能在 Google 搜尋的 AI Mode 使用,也會逐步加入 Gemini app。Google 表示,這款模型著重快速處理各種日常工作,在 Gemini app 中更能照著使用者的指示操作、選用合適工具,減少來回修正;它有四種思考層級,預設為 high。在搜尋中,它也能處理較複雜的問題、提供更多影像內容和相關來源連結。Google Sheets 與 Google Antigravity 的訂閱使用者也能使用;Google 另表示,模型加強了對化學、生物、放射性與核能,以及網路安全濫用的防護。

    推薦理由:Hydrogen 同時進入 Gemini app 與 Google 搜尋,並提供四種思考層級;文章也整理了它在日常任務、搜尋回答和安全防護上的用途。

11月13日週五
  1. Dev.to Top Tech82

    Google 推出 Gemini 4 Carbon,主打較低價格與企業工作流程

    企業挑選 AI 助理時,不能只看每個 token 的價格,還得算上任務做不完時的重試和人工檢查。Google 將 Gemini 4 Carbon 提供給多種服務使用,API 入門價格是每百萬個輸入 token $2、輸出 token $10,並可調整推理程度,在品質、速度和費用間取捨。Zapier 的測試中,Carbon 在 657 項模擬商務工作中完成了 53.9%,每項任務估計花費 $2.12;Gemini 4 Argon 的完成率是 51.3%。Anthropic 則表示,Claude Fable 5.2 在多項程式開發和科學基準測試勝過 Carbon。文章提醒,測試結果會因任務而異,企業仍須用自己的資料和工具評估完成工作的總成本。

    推薦理由:這篇比較 Gemini 4 Carbon 的任務完成率與每項成本,也指出重試和人工檢查會改變實際花費,提供評估企業工作流程的成本角度。

  2. Microsoft ONNX Runtime Releases75

    ONNX Runtime 1.32.0 加快大型模型啟動,新增 CPU 與 GPU 混合處理功能

    大型模型的計算圖很大時,ONNX Runtime 建立工作階段可能要等很久。1.32.0 改善了記憶體安排和計算圖整理方式,讓一個有 10 萬個節點、內容以常數為主的模型,啟動時間從超過 10 分鐘縮短到約 5 秒。新版也能把量化 MoE 模型的工作分配給 CPU 和 GPU,並加入 ONNX opset 28 支援。使用者升級時要留意,舊的 ACL 執行提供者已移除;CUDA 和 WebGPU 外掛也要搭配相符版本,以免運作錯誤或當機。

    推薦理由:新版把大型計算圖的啟動時間從超過 10 分鐘降到約 5 秒,也加入 CPU 與 GPU 混合處理量化 MoE 模型的功能,能看出它在大型模型部署上的改進。

  3. Dev.to Top Tech76

    如何在 AI 助理生成回覆前,先用 Gemini Decision 1 或 Decider v1.3 做判斷

    AI 助理收到請求後,常得先判斷要不要查資料、轉給真人,或產生文字回覆;如果只需要在幾個固定選項中挑一個,先生成文字再解析可能增加延遲,也會讓流程更脆弱。文章說明 Google 的 Gemini Decisions API 和 Perplexity 的 Decider v1.3,並示範先判斷、再視結果呼叫生成模型。信心高不代表答案一定適合直接採用,固定選項也可能沒有一個符合情況,因此作者建議用有標記的實際資料調整門檻,並安排低信心案件交由真人處理。Gemini 提供代管 API;Decider 可自行部署,但需要準備 CUDA GPU 與維運資源。

    推薦理由:文章比較 Gemini Decisions API 與 Decider v1.3 的決策方式和部署取捨,也說明如何用自家標註資料調整門檻,降低誤分流帶來的重工。

  4. Dev.to Top Tech78

    Gemini 4 Hydrogen 升級 Gemini 3.8 Flash 值得嗎?成本、速度與 API 差異一次看

    換成 Gemini 4 Hydrogen 後,任務成本和完成時間可能降低,但預設思考等級提高,API 支援也有差異,直接換模型名稱可能讓程式出問題。作者用 Artificial Analysis 的資料比較兩款模型:在 high 設定下,Hydrogen 每項任務成本是 $1.87,Gemini 3.8 Flash 是 $7.77;完成時間分別是 8.3 分鐘和 14.7 分鐘。不過這不是作者親自跑出的測試,數字採用標準牌價,也不是 AIHubMix 的實際帳單。文章提醒,AIHubMix 目前只記載支援 Chat Completions,長輸出、思考等級設定和其他連線方式都還沒確認,遷移前應先用自己的請求測試。

    推薦理由:文章以同一項任務的成本與完成時間比較兩款模型,也整理 API 支援差異與尚未實測的部分,能幫助評估升級和遷移風險。

  5. The Decoder87

    Google Gemini 4 Hydrogen 發布後四週,基準分數超越較大型的 Argon

    Google Gemini 4 Hydrogen 正式推出,定位為快速、低成本的通用模型,並在 Artificial Analysis Intelligence Index 的預設 high 層級以 51 分超越較大型的 Gemini 4 Argon(50 分)。

    推薦理由:Hydrogen 在不同思考層級呈現明顯的成本與分數差異,並與 Argon、其他模型及多項基準比較,便於評估日常工作所需的取捨。

  6. BlockTempo 動區動趨88

    Google 推出 Gemini 4 Hydrogen,提供四檔思考深度並支援 AI 代理工作流程

    Google 推出 Gemini 4 Hydrogen,主打日常程式開發與 AI 代理工作,並開始向全球使用者逐步推出。 - 思考深度與基準:提供 low、medium、high、xhigh 四檔,預設為 high。

    推薦理由:文章比較 Hydrogen 與 Gemini 3.8 Flash 的速度及 Terminal-Bench 4.1 成績,也說明它如何與 Carbon 分工,呈現不同任務下的模型配置方式。

  7. aihot88

    Google DeepMind 發布 Gemini 4 Hydrogen,主打快速執行日常編碼與AI 助理工作流

    Google DeepMind 發布 Gemini 4 Hydrogen,這款模型主打快速執行日常編碼與AI 助理工作流,並自即日起向開發者、企業及一般使用者開放。

    推薦理由:Hydrogen 定位為快速執行模型,並提供與 Carbon、Argon 協作的工作流及多項基準比較,可看出它在 Gemini 4 模型組閤中的分工。

  8. aihot82

    Artificial Analysis 評測 Gemini 4 Hydrogen:智慧指數 54,成本約為 Claude Sonnet 5.5 的 32%

    Artificial Analysis 評測 Gemini 4 Hydrogen,其 xhigh 推理的智慧指數為 54,較 Claude Sonnet 5.5(max)和 GPT-6.1 Sol(max)低 1 分,成本約為 Claude Sonnet 5.5(max)的 32%。

    推薦理由:評測同時比較不同推理級別的智慧指數、任務成本與基準表現,可用來瞭解 Gemini 4 Hydrogen 在能力和成本之間的取捨。