跳到正文

推理能力

模型推理能力的進展:思維鏈、推理模型、數學與邏輯基準的突破與爭議。

最新精選

第 41–60 條 · 共 255 條
11月19日週四
  1. The Decoder84

    Google DeepMind 推出 Gemini 4 Neon,速度更快、定價更低

    Google DeepMind 推出 Gemini 4 Neon,作為 Gemini 4 Carbon 之外的新選擇。Neon 的文字、圖片、音訊和影片上下文視窗可容納一百萬個 token,生成速度接近 Carbon 的兩倍,標準定價也低 25%。不過,Neon 每項任務會多用約 15% 的輸出 token,因此省下的費用來自每 token 單價較低。報導也整理了它在程式開發、檔案和簡報測試中的表現;不同測試與推理設定下的結果並不相同。

    推薦理由:Neon 與 Carbon 的比較涵蓋速度、價格和多項測試,也指出省錢來自較低的每 token 定價,而非較少的輸出 token。

  2. Tom’s Hardware AI & Computing76

    三張二手 Nvidia V100 跑 Qwen 3.6 35B,長上下文仍有每秒 72.7 個 token

    想在家用電腦跑大型語言模型,買新顯示卡可能很花錢。這篇評測用三張二手 Nvidia V100 組成總價 $1,042 的主機,測試 Qwen 3.6 35B;在 4K 上下文時,每秒約產生 100 個 token,到了 128K 仍有 72.7 個。作為比較,三張 P100 在相同條件下只有 40.2 個,V100 每次測試的 GPU 耗電也約是 P100 的一半。作者提醒,各臺裝置使用的執行工具不同,因此比較數字只能大致參考。

    推薦理由:這組測試比較不同退役 GPU 在長上下文下的速度與耗電,也列出自組成本,可用來評估舊卡能否應付本機模型推論。

  3. ModelScope66

    AI 助理要長時間操作終端機完成工作,往往得面對複雜的程式開發與研究任務。RadixArk 以 Qwen3.8-27B 為基礎,用 1,200 項軟體工程、科學和機器學習任務進行強化學習後訓練。DaisyRose-27B 在 Terminal-Bench 4.1 的 Pass@1 從 5.6 提高到 12.0,也在其他終端機、程式開發、指令遵循和推理評測中優於基礎模型。它保留圖片理解能力與 256K-token 上下文視窗,並提供 BF16、FP8 和 NVFP4 三種權重版本。

    推薦理由:DaisyRose-27B 在多項終端機與程式開發評測中優於基礎模型,呈現強化學習後訓練對長時間任務的影響。

  4. Dev.to Top Tech77

    Gemini 4 Neon 開發者指南:怎麼看成本、上下文與推理

    選模型時,只看每次呼叫的價格,可能看不出完成一項工作的實際花費。Google 推出的 Gemini 4 Neon 可接收文字、圖片、音訊、影片和 PDF,並有四種思考等級;輸入、思考和輸出共用上下文視窗。文章建議用自己的任務測試不同等級,記下答案是否正確、重試花費和完成時間,再和目前使用的模型比較。Google 公佈的基準結果只反映特定測試環境,作者提醒,工具、指令和測試方式也會影響結果。

    推薦理由:文章把 Gemini 4 Neon 的單次呼叫費用和完成任務的總成本分開比較,並整理出用自家工作測試模型的做法。

  5. Dev.to Top Tech77

    決策模型怎麼挑?這份指南比較 Jev、OpenAI、Google 等選項

    AI 助理常為了選工具、檢查指令或判斷工作是否完成,就呼叫大型語言模型,花時間等答案,再把文字轉回程式判斷。作者整理 Jev 推出後,多家公司的決策模型和開源專案怎麼做,並比較它們的價格、速度、輸入內容與能否自行執行。這類模型只從預先設定的選項中挑答案或給分,仍可能判斷錯誤;作者建議先拿真實案例測試,也和原本的模型及簡單基準比較,再決定哪些結果要交給大型模型或人確認。

    推薦理由:文章比較多種決策模型的速度、價格、輸入方式與開放程度,也整理了把它們接進 AI 助理流程時可先測試的做法。

  6. Dev.to Top Tech79

    Gemini 4 Neon 評測:比較基準、API 費用與 AI 助理工作流程

    挑模型時,排行榜上的分數不一定能告訴你實際工作要花多少錢,工作流程工具也會影響結果。作者整理 Gemini 4 Neon、Carbon 和 Hydrogen 的價格與測試成績,並說明 Neon 的輸出費用包含思考用的 token,調高思考程度也會增加費用;Carbon 和 Argon 的優惠價格則會在 12 月 1 日結束。文章還比較同一模型在不同程式工作流程工具上的測試結果,指出分數差距可能很大,建議團隊用自己的工作流程和任務測試,再估算費用。

    推薦理由:文章比較 Gemini 4 Neon 與 Carbon 的費用和測試結果,也指出同一模型換了工作流程工具後,程式任務分數差異很大。

  7. Vercel Blog72

    Google 推出 Gemini 4 Neon,並開放在 Vercel AI Gateway 使用

    寫程式或處理多步驟工作時,模型要回得快,也得能看懂不同種類的資料。Vercel 宣佈 Gemini 4 Neon 已可透過 AI Gateway 使用;官方說它比先前較輕量的 Gemini 4 升級,回應更快,輸出品質接近 Google 較大型的 Gemini 4 模型。它能讀取文字、圖片、影片和檔案,並支援工具呼叫、結構化輸出、Google 搜尋與 Google 地圖資料,以及四種推理等級。

    推薦理由:Gemini 4 Neon 主打較快回應與接近大型 Gemini 4 模型的輸出品質,也支援多種輸入和工具呼叫,適合瞭解它能處理哪些工作。

  8. hackernews10088

    Google 推出 Gemini 4 Neon,主打快速處理程式開發與分析工作

    處理大型程式專案、企業資料和科學問題時,工作常要分好幾步,也會用到不同工具。Google 推出 Gemini 4 Neon,主打更快完成這類工作,並可在單一上下文視窗中整理試算表、PDF、圖表、音訊和影片。Google 表示,它在多項程式、研究與資安測試中表現突出;高思考等級下,每項任務成本比 Gemini 4 Carbon 低 32%。Gemini API、Gemini app、Google Antigravity 等服務正陸續開放使用,資安版本則先提供給 Fairwind Program 的受信任防禦者。

    推薦理由:Gemini 4 Neon 在高思考等級下,官方稱每項任務成本比 Carbon 低 32%,可看出它如何在效能與成本間取捨。

  9. Artificial Analysis70

    挑 AI 模型時,分數、花費和完成工作所需的時間常要一起考量。Artificial Analysis 測試 Google 的 Gemini 4 Neon,發現它在 Intelligence Index 得 61 分,比 Gemini 4 Carbon 高 1 分;每項任務花費 $6.44,約低 17%,平均約 21 分鐘,比 Carbon 的約 36 分鐘快。報告也指出,Neon 每項任務用的輸出 token 更多,較低花費來自 token 價格較低,較快則和輸出速度較高有關。用 Antigravity CLI 測試寫程式的 AI 助理時,Neon 的分數也高於 Carbon,成本低於報告列出的 Claude Opus 5.5 和 Claude Fable 5.2。

    推薦理由:這份評測比較 Gemini 4 Neon 與 Carbon 的任務成本和完成時間,也拆出價格與輸出速度對差異的影響,方便衡量效能和花費。

  10. aihot83

    Google DeepMind 發布 Gemini 4 Neon,主打快速處理複雜工作

    複雜的程式開發、分析和科學工作,常得花很多時間,也可能需要多個步驟才能完成。Google DeepMind 推出 Gemini 4 Neon,主打快速處理這類工作,並能在單一 100 萬 token 上下文視窗中整理試算表、PDF、圖表、音訊和影片。官方列出的評測成績包括 Artificial Analysis Intelligence Index 第 3 名、Agent Arena Index 第 2 名;價格為每百萬輸入 token $3、每百萬輸出 token $15。Neon 已開始向開發者、企業和部分訂閱使用者開放;網路防禦版本則預計在未來幾天提供給符合資格的 Fairwind 計畫成員。

    推薦理由:官方列出 Gemini 4 Neon 的基準成績、價格與開放物件,可用來比較它在複雜工作中的能力和成本。

  11. aihot82

    Gemini 4 Neon 開放給 Google AI Pro 和 Ultra 訂閱使用者

    Google 宣佈 Gemini 4 Neon 已開放給 Google AI Pro 和 Ultra 訂閱使用者,可在手機、桌上型電腦和網頁上使用。官方表示,這款模型適合需要高階推理和快速回應的工作;原文沒有提供更多功能細節或使用限制。

    推薦理由:Gemini 4 Neon 已向 Google AI Pro 和 Ultra 訂閱使用者開放,原文說明它面向需要高階推理與快速回應的工作,可瞭解其訂閱方案與使用平臺。

  12. aihot81

    Google DeepMind 的 Gemini 4 Neon 登上 OpenRouter

    挑選模型時,除了看它能做什麼,也得考量使用成本。OpenRouter 轉述 Google DeepMind 的訊息,宣佈 Gemini 4 Neon 已在平臺上線,並透過 Google Cloud 提供。這款模型主打複雜的軟體工程、知識工作和科學用途,定位介於 Carbon 與 Hydrogen 之間。Google 表示,它在 Artificial Analysis Coding Agent Index 排名第一,每項任務的成本比 Carbon 低 32%。

    推薦理由:Gemini 4 Neon 定位在 Carbon 與 Hydrogen 之間,且每項任務成本比 Carbon 低 32%,可供比較模型選型與成本。

  13. Google AI86

    處理大型專案時,AI 助理可能要等很久,也容易漏看不同檔案之間的關係。Google 發布 Gemini 4 Neon,主打快速完成程式開發、知識工作和科學任務;它能除錯和重整多個程式檔案、一次整理大量資料,並提供 4 種思考程度供人調整。Google 展示它在 Antigravity 執行 12 小時的 /swarm,根據檔案照片重建 Alan Turing 1936 年的研究,並做出可運作的通用圖靈機。文中提到的最低模型幻覺率來自 Google 內部測試,適用範圍是該測試。

    推薦理由:Gemini 4 Neon 把多檔案程式修改、長上下文與可調整的思考深度放在同一模型中,原文也以重建圖靈研究展示長時間任務的用法。

  14. Hugging Face Blog61

    RadixArk 發布 DaisyRose-27B,Terminal-Bench 4.1 成績提升

    訓練 AI 助理處理需要長時間、多步驟完成的工作,往往要準備大量任務,也得投入不少 GPU 資源。RadixArk 發布首款模型 DaisyRose-27B,以 Qwen3.8-27B 為基礎,使用 1,200 項整理過的任務進行強化學習訓練。和原始模型相比,它在文中列出的各項基準都拿到較高分;Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。RadixArk 也表示,自家訓練後端比可比的開源訓練器少用 57% GPU 時間。

    推薦理由:DaisyRose-27B 與 Qwen3.8-27B 的多項基準成績可供對照,其中 Terminal-Bench 4.1 的 pass@1 從 5.6% 提升到 12.0%。

  15. Epoch AI Updates68

    Epoch AI:AI 晶片的 AI 助理推論容量一年成長 4.6 倍

    AI 晶片的峰值算力增加,未必代表它處理 AI 助理工作的能力也以同樣速度增加。Epoch AI 用固定的一組長上下文工作,估算已售出晶片的 AI 助理推論容量;從 Q2 2025 到 Q2 2026,推論容量成長 4.6 倍,峰值 8 位元算力則成長 2.6 倍。差距主要來自 Hopper 換成 Blackwell,Blackwell 和 Blackwell Ultra 貢獻了新增容量的 74%,GB300 每張 GPU 的推論容量約是 H200 的 8 倍。作者預期,隨著累積容量變大,要維持同樣的成長幅度會更難;這些估算也未納入軟體效率差異。

    推薦理由:Epoch AI 用固定工作負載比較晶片的推論能力與峰值算力,呈現 Blackwell 世代轉換如何拉開兩者的成長差距。

  16. Dev.to Top Tech76

    Kumo Tabular 評測:NVIDIA 如何讓模型不經訓練就能預測表格資料

    處理表格資料通常得先整理資料、挑模型,再反覆訓練和調整;Kumo Tabular 想省下這些步驟。它把已標記的資料列當成例子,直接預測其他資料列,不必用手上的資料訓練模型。文章提到,Kumo Tabular-L 在八項表格基準測試中排名第一,並在部分測試中比其他表格模型預測得快。它適合快速建立基準,或一次試很多資料集;若是大型、重視低延遲且使用 CPU 的正式服務,XGBoost 和 LightGBM 仍是有力選擇,因為 Kumo Tabular 需要 GPU,記憶體用量也會隨參考資料列增加。

    推薦理由:文章比較 Kumo Tabular 與傳統表格模型的適用情境,說明免訓練推論在快速建立基準與多資料集實驗時的價值。

  17. Hugging Face Blog78

    作者用 Transformers 在 32 GB Mac 上執行 180B MoE 模型

    大型 MoE 模型的專家權重很佔空間,往往放不進一般筆電的記憶體。作者替 Transformers 加上串流載入方式,只從 SSD 讀取模型當下挑中的專家,並用有限大小的快取保留常用部分;其他權重和 n-gram 資料也分別處理,讓 Qwen3.8-Flash-Next 能在 32 GB 的 Mac 上執行。經過調整後,短文字生成速度是每秒 13.9 個 token,和 Strata 的每秒 14.8 個接近。作者也指出,剩下的速度差距主要和 Python 與 GPU 之間的等待有關。

    推薦理由:作者比較多種 MoE 推論引擎,並實測如何只載入當下用到的專家,讓大型模型在 32 GB Mac 上運作。

  18. Hacker News (official RSS)89

    Microsoft 發布 7 款 MAI 模型,主打企業工作所需的效能與價格

    企業想讓 AI 助理長時間處理工作,模型費用也會跟著增加。Microsoft 這次發布 7 款 MAI 模型,涵蓋資安、寫程式、圖片編修、語音、轉錄與模型挑選,並公佈多項效能和價格比較。例如 MAI Code 2 在日常企業程式工作測試中,達到 GPT-6.1 Sol 98% 的表現,價格約為 40%;Microsoft 也說明它還沒針對科學研究和需要長時間工作的任務調校。另有 MAI Licensed Weights,讓企業用自己的資料調整模型,並在自己的 Azure 環境中執行。

    推薦理由:這次發布把多種模型的表現與價格放在一起比較,也說明 Code 2 尚未針對科學研究和長時間 AI 助理工作調校。

  19. Rohan Paul72

    模型明明答對了,遇到使用者或另一個 AI 助理用錯誤理由反駁時,常會改口。這篇 Microsoft 研究提出 Self-Disagreement 訓練:模型先回答,再寫出反對自己的最強理由,接著判斷這些理由並重新作答;標準答案檢查器會替最終答案和判斷結果給分。研究中,Qwen3-8B 原本在反駁錯誤時有 53.3% 的機會守住正確答案,Gemma-2 9B 則是 25.1%;訓練後,兩者都提高到約 89%。只加強答題準確度的訓練,沒有帶來同樣的改善。

    推薦理由:研究比較了模型遭遇錯誤反駁時是否守住正確答案,並指出一般準確度訓練無法改善這項表現,可用來檢視模型面對質疑時的穩定度。