跳到正文

#推理

RSS
今日 9 則
10月3日週六
  1. OpenAI News39

    GPT-6 系列模型使用指南

    summary_zh: 這份指南說明瞭創業公司如何選擇 GPT-6 模型、調整推理力度、改進提示與技能、協調工具並為生產準備工作流程。 - 模型選擇:提供不同 GPT-6 版本的比較,協助決定最適合業務需求的模型。

10月2日週五
  1. MIT Technology Review · AI31

    不要被誤導——LLMs 並不具備推理能力

    summary_zh: AlphaGo 透過結合政策網路與搜尋機制,展示了真正的推理能力,而現今的大語言模型僅靠連續 token 預測,缺乏明確的推理機制。 - AlphaGo:政策網路預測人類高手行動,搜尋機制構建數千分支的棋局樹,結合直覺與深度推理。

  2. AWS Machine Learning Blog72

    利用 AWS 上的情境多臂賽局提升獲客漏斗轉換率

    本文說明如何在 AWS 上使用情境多臂賽局,提升獲客漏斗轉換率,並提供完整程式碼與架構示例。 - 核心成效:在七週 A/B 測試中,部分客群最終漏斗轉換率提升高單位數字,另一客群無提升。

    推薦理由:本文說明如何在 AWS 上運用情境多臂賽局提升轉換率,並提供完整程式碼與架構示例,適合想落實個性化推廣的工程師。

10月1日週四
  1. TechCrunch · AI63

    Google 釋出 Gemini 4 Argon,稱其為最強模型

    Google 推出 Gemini 4 Argon,定位為最強模型,專為編碼、研究、寫作及網路安全設計。該模型可自主發現、驗證並修補關鍵軟體漏洞,並在視覺解析、程式碼除錯和遷移等任務上表現出色。Google 還聲稱 Argon 在多項 AI 基準測試中超過 OpenAI 的 GPT‑6 Astra 與 Anthropic 的 Fable,並已在其內部團隊中用於日常工作。

  2. The Verge · AI67

    Google 釋出 Gemini 4,稱其能力強大僅限可信網路防禦者使用

    Google 今日公佈 Gemini 4 Argon,稱其在複雜工作流程中的表現優於 OpenAI 與 Anthropic 的競爭模型。該模型目前僅向“可信網路防禦者”開放,Google 已在內部工作流中使用,幫助完成大規模程式碼庫遷移。公司釋出對比圖表顯示 Gemini 4 在多項基準上領先,並計劃在更廣泛推廣前加強安全防護。

  3. The Decoder53

    OpenAI 與 Synopsys 合作推出 GPT‑Synopsys 晶片設計 AI 模型

    OpenAI 與 Synopsys 簽署多年戰略合作,聯合研發名為 GPT‑Synopsys 的專用 AI 模型,用於晶片設計與驗證。該模型將 OpenAI 的技術與 Synopsys 的 EDA 工具結合,直接操作工具並在 OpenAI 基礎設施上執行。雙方表示將共同營銷並分攤收入,且客戶資料不用於訓練並將加密儲存。早期與半導體客戶的測試已在進行中。

  4. Google DeepMind72

    Gemini 4 Argon 釋出:開啟前沿智慧新時代

    Google DeepMind 推出了 Gemini 4 Argon,這是一款具備長推理、跨領域多模態能力的前沿模型。Argon 在軟體工程、金融、法律和網路安全等行業基準上重新整理記錄,並已在內部工作流中提升效率;其 1M token 輸出上限和 $2/百萬輸入、$10/百萬輸出的價格為開發者提供更高性價比。

    推薦理由:Gemini 4 Argon 通過大幅提升推理長度和多模態能力,顯著提升軟體工程、金融與網路安全等領域的工作效率,並在多項行業基準上重新整理記錄,幫助企業加速技術迭代。

9月30日週三
  1. AWS Machine Learning Blog66

    GPT-6.1 Sol 現已登陸 Amazon Bedrock

    GPT-6.1 Sol 現已在 Amazon Bedrock 上全面可用,為編碼、計算機使用和專業工作負載帶來更強的推理能力。該模型在 DeepSWE v1.1 上以約五分之一的單任務成本實現了接近 GPT-6 Astra 的表現,並在複雜文件分析和多步驟工作流上超越了 GPT-6 Sol。

9月29日週二
  1. vLLM Official Blog86

    vLLM 分離式提供實務指南:拆分預填與解碼

    本文詳述如何在 vLLM v0.31.0 或更新版本中實作分離式推論架構,將提示詞預填(prefill)、權杖生成(decode)與 CPU 端文書處理拆分執行以提升系統 goodput。

    推薦理由:本文介紹 vLLM 拆分預填與解碼的實務架構與配置方式,讀者可評估是否透過此架構改善高併發下的長提示詞延遲。

  2. AWS Machine Learning Blog62

    Grok 4.7 現已登陸 Amazon Bedrock

    xAI 的 Grok 4.7 現已在 Amazon Bedrock 上線,支援 500K 上下文視窗、四級推理努力程度配置及圖文輸入。該模型可通過 Responses、Chat Completions 和 Converse API 進行呼叫,並提供 US 區域和 Global 跨區域推理配置選項。

9月27日週日
  1. Vercel Blog52

    Ember-1(Fireworks)現已在 AI Gateway 上可用

    Ember-1 是 Fireworks 基於 Kimi K3 開發的研究預覽推理模型,現已在 AI Gateway 上提供。該模型在相同質量評估下比 Kimi K3 生成 token 少約 40%,支援 1M-token 上下文視窗、文本與影像輸入、工具呼叫以及隱式提示快取。

9月26日週六
  1. AWS Machine Learning Blog65

    AWS 詳解基於 Amazon Bedrock 構建生產級大語言模型質量保障體系

    AWS 團隊詳細介紹了面向生產環境的大語言模型質量保障架構,通過自適應管道編排、跨賬戶多模型故障轉移、即時流式評估、複合評估框架以及資料準確性驗證五項技術,在 Amazon Bedrock 上實現了約 99% 的數值準確率並支援即時流式響應。文章重點闡述瞭如何通過三階段自適應處理、獨立配額空間網格、生產者消費者併發模式及兩階段級聯驗證來解決模型幻覺、API 限流和驗證延遲等工程挑戰。

9月23日週三
9月22日週二
9月21日週一
  1. Vercel Blog62

    MiMo V2.6 模型現已在 AI Gateway 上可用

    MiMo V2.6 Pro、Flash 與 Pro UltraSpeed 三款來自小米的模型現已在 AI Gateway 上可用。它們支援文本、影像、音訊和影片輸入,並具備推理、工具呼叫、JSON 輸出、提示快取等功能,擁有 1M-token 上下文視窗和最高 128K 輸出 token。

9月18日週五
9月16日週三