跳到正文

#推理

RSS
今日 9 則
11月10日週二
  1. Vercel Blog67

    Vercel AI Gateway 開放使用 Anthropic Claude Fable 5.2

    Vercel AI Gateway 開放使用 Anthropic 的 Claude Fable 5.2,提供模型呼叫、用量追蹤與模型回退設定。 模型能力:Claude Fable 5.2 面向開放式技術工作,在程式開發、推理與視覺能力上優於先前的 Fable 模型;可無人看管地執行冗長且目標模糊的任務,也能協調較小型模型,或作為其他 Claude 模型的顧問。原文並稱其溝通更清楚、輸出速度更快。 推理設定:Effort 可設為 low 至 max,API 預設為 high。 資料保留與安全限制:模型啟用了資安與生物學安全分類器,使用時必須接受資料保留;Anthropic 不支援此模型的 Zero Data Retention。提示詞與回覆會保留 30 天,且不會用於訓練 Claude。若團隊已啟用 ZDR,AI Gateway 會回傳錯誤,不會轉送請求。 模型回退:若資安分類器拒絕請求,可在 providerOptions.gateway 加入 models 陣列,讓 AI Gateway 依序嘗試其他模型。範例設定會先回退至 Opus 5.5,再至 Sonnet 5.5;此設定適用於各種 AI Gateway API 格式。 使用方式與費用:可透過 AI SDK、Chat Completions、Responses、Anthropic Messages API,或連線 AI Gateway 的程式代理呼叫;模型名稱為 anthropic/claude-fable-5.2。在 Claude Code、Codex、Cursor 等工具中使用,需安裝最新版 Vercel CLI 並執行設定。AI Gateway 依照供應商定價,不加價,也不對推論收取平臺費用,包括 BYOK 請求。

    推薦理由:Claude Fable 5.2 在 AI Gateway 的接入同時附帶資料保留與安全分類器限制,也提供模型回退設定,呈現實際使用時需考量的部署條件。

  2. Vercel Blog78

    Vercel AI Gateway 2026 年 11 月報告:決策模型佔 26% 請求,Anthropic 新團隊首選近乎領先兩倍

    Vercel 發布 2026 年 11 月 AI Gateway Production Index,指出決策模型已佔 10 月全部請求的 26%,而新付費團隊首選 Anthropic 的數量近乎是 OpenAI 的兩倍。

    推薦理由:Vercel 以匿名彙總流量呈現模型採用與更替速度,並列出各項統計口徑,便於理解企業團隊的實際使用變化。

  3. Hacker News (official RSS)90

    Anthropic 發布 Claude Fable 5.2 與 Claude Mythos 5.2,提升程式開發、推理與視覺能力

    Anthropic 發布 Claude Fable 5.2 與 Claude Mythos 5.2,兩者共用底層模型,並在程式開發、推理與視覺能力上有所提升。

    推薦理由:Fable 與 Mythos 共用底層模型,但防護措施和開放物件不同;文中也列出基準、安全測試與實際研究案例,呈現能力和存取限制的取捨。

  4. LMSYS Org Blog69

    DeepSeek-V4.1-Flash 如何在 H200 上加快分離式 Prefill 與 Decode

    處理長提示詞時,DeepSeek-V4.1-Flash 的 Prefill 會排隊,等待時間也拉長。Ant International AI Infra Team 在 8 張 H200 上用 SGLang 分開處理提示詞和逐字生成,並調整索引器計分、Prefill 分塊與 MoE 資料傳送,也讓有限重播能搭配 CP 和 DSpark。合併設定的 8 個測試案例中,E2E 延遲降低約 15%–64%,但每個輸出 token 的時間增加 3%–52%;GSM8K 準確率則從 96.74% 降到 95.38%。文章提醒,整體結果包含多項改動,不能把改善歸功於單一調整;有限重播也會省略部分區域性運算,可能影響答案品質。

    推薦理由:文中把各項加速分開測量,也列出合併設定的延遲與 GSM8K 變化,呈現輸入處理變快和逐字生成變慢之間的取捨。

11月9日週一
  1. Silicon Republic49

    AI 如何改變我們理解數學研究的方式?

    AI 持續提升產生數學證明的能力,但研究者指出,數學進展仍仰賴人類驗證、理解與延伸證明。 - 最新進展:OpenAI 表示,其新內部模型已為數學多個領域的 300 多個長期未解問題提出解答;文章也提到,OpenAI 近期宣佈旗下模型解決了 Navier–Stokes 問題。

  2. AWS What's New82

    Anthropic Claude Fable 5.2 在 AWS 上推出,主打長時間處理複雜工作

    需要處理大型工程問題時,工作可能跨好幾個程式碼庫,也不一定有清楚的邊界。Anthropic 推出 Claude Fable 5.2,並讓 AWS 客戶透過 Amazon Bedrock 和 AWS 雲端 Claude Platform 使用。它能連續工作數小時甚至數天,過程中自行測試,也會檢查難以重現的結果;Anthropic 表示,它在測試中曾協調數百個子助理。官方建議將它用於軟體工程、科學研究和金融工作。使用時也要留意,這款模型被列為需要保留資料以進行安全監控的模型;符合條件的客戶可使用零資料留存功能。

    推薦理由:這次更新主打長時間自主處理大型工程問題,也延伸到科學研究與量化金融,可從中瞭解 Anthropic 建議的使用場景。

  3. OpenBMB64

    OpenBMB 推出 AutoRLBench,使用真實失敗的強化學習訓練案例,評測 10 個前沿AI 助理能否找出看似正常的獎勵曲線背後的根本原因。 - 評測材料:保留完整程式碼、設定、紀錄與指標,未使用合成錯誤。

    推薦理由:AutoRLBench 保留真實失敗訓練的程式碼、設定、紀錄與指標,可用來比較 10 個前沿AI 助理定位強化學習問題根因的能力差異。

  4. Baidu Inc.72

    百度推出 ERNIE Evolve,這套自動化研究系統會依據明確目標選擇研究方向、修改程式碼並執行實驗,通過獨立評估與審查的改進才會保留。 - 基準與推論測試:在 NanoChat AutoResearch 和 NanoGPT Speedrun 達到 SOTA;GPU 推論吞吐量提升 33.7%,GPU 單次請求解碼速度提升 14.9%。

    推薦理由:ERNIE Evolve 展示了自動選擇研究方向、修改程式碼與執行實驗的流程,也列出 GPU 推論吞吐量與單次請求解碼速度的提升幅度。

  5. Dev.to Top Tech77

    Darwin-180B-RSI-R3 在 SuperCLUE 數理推理排名第二,超越 Gemini 與 Grok

    Darwin-180B-RSI-R3 在 SuperCLUE 2026 年 11 月數學與科學推理測試中獲得 73.68 分,排名第 2,並列開放權重模型第 1。

    推薦理由:Darwin-180B-RSI-R3 在 SuperCLUE 數理推理維度排名第二、開放權重模型排名第一,但五維綜合排名為第九,呈現其能力集中於特定評測專案的差異。

  6. Dev.to Top Tech47

    AI 數學第 05 章:資訊理論

    資訊理論以數學方式衡量不確定性並量化資訊;本章說明熵如何表示離散隨機變數結果的平均資訊量,並連結機率理論、資料壓縮、統計學習與人工智慧。 - 熵的定義與例子:Shannon 熵為 H(X) = −Σᵢ p(xᵢ) log₂ p(xᵢ)。

  7. Dev.to Top Tech51

    《Mathematics for AI》第 6 章:數值方法,解析浮點誤差、最佳化與 AI 計算

    《Mathematics for AI》第 6 章整理數值方法如何支援 AI 計算,涵蓋浮點數、線性系統、最佳化、數值積分、亂數生成,以及穩定性與尺度調整。 - 浮點誤差與穩定性:說明有限精度、捨入、消去、溢位與下溢如何影響計算,並介紹穩定公式、補償加總與精度管理等方法。

11月8日週日
  1. Dev.to Top Tech82

    VIDRAFT 公開 Darwin-180B-RSI-R3 推理模型權重

    VIDRAFT 公開 Darwin-180B-RSI-R3 的模型權重;這款以遞迴自我改進訓練的 180B MoE 模型,在 SuperCLUE 2026 年 11 月數學與科學推理評測中得分 73.68,排名開放權重模型第一、整體第二。

    推薦理由:Darwin-180B-RSI-R3 在數學與科學推理評測中的分數高於基礎模型,並提供公開權重;文中也呈現其長上下文與指令遵循的弱項。

  2. Vercel Blog57

    DeepSeek V4.1 Flash 1017 Ultrafast 開放於 Vercel AI Gateway 公開預覽

    DeepSeek V4.1 Flash 1017 Ultrafast 現已透過 Fireworks 在 Vercel AI Gateway 開放公開預覽,生成速度可達每秒 1,000 個以上 token。 模型與使用情境:此版本提供 DeepSeek V4.1 Flash 的 10 月 17 日更新,透過 Fireworks 加速的無伺服器端點提供;適用於互動式程式開發、推理與 AI 助理工作流程。 上下文與可用性:上下文視窗為 1M token,可處理大型程式碼庫與長輸入;公開預覽無候補名單,也沒有工作階段時間限制。 接入方式:模型名稱為 deepseek/deepseek-v4.1-flash-1017-ultrafast。在 Claude Code、Codex、Cursor 等工具中,安裝最新版 Vercel CLI 並執行設定後,即可在AI 助理中選取此模型;詳情見 coding agents guide,也可至 model playground 試用。 AI Gateway 費用與功能:提供統一 API,可呼叫模型、追蹤用量與成本,並設定重試、故障切換與效能最佳化。服務依供應商定價,不加價,也不對推論收取平臺費用,包含 BYOK 請求。

11月7日週六