跳到正文

#推理

RSS
今日 9 則
11月12日週四
  1. AWS What's New66

    DeepSeek-V4-Pro、DeepSeek-V4-Flash 和 DeepSeek-V4.1-Flash 登上 Amazon SageMaker JumpStart

    想在雲端使用大型模型時,團隊得依工作內容和運算成本挑選合適的模型。AWS 將 DeepSeek-V4-Pro、DeepSeek-V4-Flash 和 DeepSeek-V4.1-Flash 加入 Amazon SageMaker JumpStart,客戶可從模型目錄或使用 SageMaker Python SDK 部署。三款模型都支援 100 萬 token 上下文視窗;V4-Pro 面向複雜推理和高品質文字生成,V4-Flash 著重較低運算成本,V4.1-Flash 則支援多模態,並針對 AI 助理、程式開發和視覺工作調整 KV 快取用量。

    推薦理由:三款模型在啟用引數量、上下文視窗與多模態支援上各有差異,可用來比較推理、程式開發和視覺工作負載的部署選擇。

  2. Dev.to Top Tech76

    Google 推出 Gemini Decision 1,為工單與潛在客戶提供分類評分 API

    Google 推出 Gemini Decision 1(gemini-decision-1),這款 API 可在單次請求中為多個問題評分,回傳選項機率與信心分數,供工作流程進行分類與分流。

    推薦理由:Gemini Decision 1 將分類與評分整合在單次請求中,並提供信心分數,可用來判斷哪些工單或潛在客戶適合自動分流。

  3. MarkTechPost77

    Google 推出 Gemini Decisions API 與 Gemini Decision 1,輸入價格為每百萬 token $0.10

    Google推出由 Gemini Decision 1 驅動的 Gemini Decisions API,可對共用輸入中的最多 1,000 個問題評分,回傳校準機率,且不產生文字輸出。

    推薦理由:Gemini Decision 1 以校準誤差和多項基準呈現其決策能力,也列出價格與競品差距,可供評估代理程式中的分支判斷需求。

  4. The Decoder82

    Google 推出 Gemini Decisions API 與 Gemini Decision 1,單次處理 1,000 個問題

    Google DeepMind 推出 Gemini Decisions API,供快速處理是非題、選擇題與量表評分;底層模型 Gemini Decision 1 單次可處理 1,000 個獨立問題,並在 150 至 250 毫秒內回傳選項機率與信心值。

    推薦理由:Gemini Decision 1 將封閉式判斷整合為單次批次處理,並提供延遲、價格與校準誤差資訊,可用來比較此類 API 的適用情境。

  5. Apple Machine Learning Research51

    Apple 研究探討 SSM 閘控機制如何影響記憶與情境學習

    Apple 研究透過理論與實驗指出,SSM 的閘控機制會使模型先學會權重內記憶,並延後甚至阻礙正確的情境學習解法收斂。 研究發現:即使架構或記憶容量沒有根本限制,閘控仍可能影響情境學習;另一方面,它常有助於提升長序列泛化能力。 研究範圍:分析閘控機制如何塑造 SSM 的訓練動態與泛化表現,為理解及改進線性時間模型提供依據。

  6. Dev.to Top Tech57

    AI 如何讓使用者學會判斷知識與證據

    AI 傾向產生最常見、最可能的回答;作者以隨機數字、證據判讀與概念定義為例,說明使用者需要具備哪些判斷方法。 - 常見回答偏差:作者讓 9 個 Claude 與 GPT 模型回答 1 到 10 的隨機數字問題,共 900 次,每次答案都是 7;他將此連結到訓練資料中的人類偏差,以及偏好人類評分答案的訓練方式。

11月11日週三
  1. The Decoder83

    Anthropic稱AI將Claude移植至AMD GPU的時間從數月縮短至三天

    Anthropic表示,使用自家模型 Mythos 協助移植後,Claude 在 3 天內便能於 AMD GPU 上執行,幾乎不需人工介入。 - 移植成果:Anthropic稱 Mythos 撰寫或移植了近 100% 的核心程式碼;相關資料以 AMD MI355X GPU 上的提示處理為例,尚未經獨立驗證。

    推薦理由:Anthropic稱Claude可在三天內移植至AMD GPU,文章以此說明AI可能降低跨晶片部署的工程成本,並影響算力採購彈性。

  2. Hacker News (official RSS)76

    線性規劃能否用於權重空間程式設計?

    作者以 Qwen3.5-0.8B 為例,示範如何用線性規劃(LP)選擇權重編輯方式,減少模型反覆思考的迴圈。\n\n- 方法:沿用 Astra 找出的殘差方向,LP 搜尋應修改的權重欄位與幅度;在測試中,編輯 16,291 個權重,MATH-500 準確率為 51.7%,IFEval 為 59.7%。

    推薦理由:文章將權重編輯拆成殘差方向與稀疏係數的線性規劃,並以測試集比較其效果與適用限制。

  3. aihot79

    OpenRouter 實測 fp8 與 fp4 量化對 LLM 品質與價格的影響

    OpenRouter 實測 Qwen3.8 27B 的六個服務商端點,在 240 個計分任務中未測出 fp8、fp4 與 fp16 的準確度差異,並比較不同量化精度的價格與端點選擇方式。

    推薦理由:OpenRouter 以單一模型的端點測試比較量化精度、準確率與價格,並說明如何用 provider.quantizations 篩選端點及保留故障回退選項。

  4. Rohan Paul39

    遞迴自我改進(RSI)的安全性仍無法定論,因為目前缺乏清楚的方法判斷它會帶來什麼結果。 風險與安全條件:AI 公司已開始追求 RSI,但對何時才算安全尚無共識;安全工作坊的專家也提出了不同條件。 賽局分析:作者以雙人賽局指出,RSI 競賽只在部分風險程度下構成囚徒困境;風險高時,雙方都暫緩行動可以是穩定結果。

  5. Dev.to Top Tech79

    Anthropic 發布 Claude Fable 5.2 與 Claude Mythos 5.2,降價並加快輸出

    Anthropic 發布 Claude Fable 5.2 與 Claude Mythos 5.2,標準輸入與輸出 token 定價較前版降低 20%,Fable 5.2 輸出速度最高提升 30%,安全分類器誤攔截也有所減少。

    推薦理由:Fable 5.2 同時調降價格、加快輸出並減少誤攔截,文中列出基準變化與 Claude Code 預設採用方式,可供評估日常使用成本。

  6. Hacker News (official RSS)71

    推理究竟在最佳化什麼目標?

    作者將推理描述為在 token 空間中搜尋答案路徑,指出單條思維鏈不保證收斂至正確答案;RL 訓練提高的是模型找到成功路徑的整體機率。 訓練機制:具可驗證獎勵的 RL 會提高成功路徑的機率,並把搜尋成本攤銷至模型權重。 推論與風險:訓練時較長的思維鏈可能與成功相關,但強制延長單次推理不一定持續提升準確率;不完美的驗證器也可能讓模型學會獎勵駭客行為。

  7. Rohan Paul66

    MBZUAI 基礎模型研究所(IFM)發布開放式物理智慧世界模型 PAN 2,讓AI 助理在採取行動前先推演可能發生的情況。 - 兩種推理分工:概念推理由 LLM 判斷事件發展、時間順序與鏡頭移動,並寫成文字;感知推理由從頭訓練的 29B 擴散模型將文字轉換為視覺內容。

    推薦理由:PAN 2將語言模型的步驟規劃與擴散模型的視覺生成分工,並以多步任務結果呈現兩者結合的差異。