跳到正文

全部動態

RSS
今日 4 則
11月11日週三
  1. Vercel Blog45

    Gemini 4 Carbon 登上 Vercel AI Gateway,至 11 月 30 日享 5 折

    Google 的 Gemini 4 Carbon 已在 Vercel AI Gateway 開放使用,至 11 月 30 日提供 5 折優惠。 用途與能力:Gemini 4 Carbon 面向複雜軟體工程、長時間 AI 助理工作與資安防禦,支援尋找漏洞、驗證風險及開發修補程式;Google 表示,它在多階段工程任務、編碼、全端網頁開發與科學推理方面有所改善,也更可靠地執行多步驟計畫、減少缺乏依據的主張,並能在需求模糊時改善協作。 上下文與使用方式:模型提供 1M token 上下文視窗,可處理大型程式碼庫與長輸入;模型名稱為 google/gemini-4-carbon,可在 Claude Code、Codex、Cursor 等工具中,安裝最新版 Vercel CLI 並完成設定後選用。 AI Gateway:提供統一 API,可呼叫模型、追蹤用量與成本,以及設定重試、故障轉移與效能最佳化;另支援自訂報表、Zero Data Retention、API 金鑰預算、路由規則與 BYOK。Vercel 表示,AI Gateway 按供應商價格計費,不加價,也不對推論收取平臺費。

  2. AMD77

    AMD 宣佈第六代 EPYC SP7 處理器正式上市,採用全新「Zen 6」架構,支援日益增加的 AI 助理部署,以及企業、雲端與 HPC 工作負載。 供貨進度:伺服器廠商已開始出貨系統。 雲端服務:@Azure 與 @OracleCloud 的雲端執行個體即將推出。 更多資訊:https://t.co/LHw3Evhkd3

    推薦理由:採用 Zen 6 架構的第六代 EPYC SP7 處理器已開始供貨,文章也交代伺服器出貨與雲端執行個體的推出進度。

  3. AWS What's New35

    Amazon RDS for MySQL 26.10 開放預覽測試

    想升級資料庫,又怕新版本讓工作變慢或不穩?Amazon RDS for MySQL 26.10 已在資料庫預覽環境開放測試,讓使用者先試用新版 MySQL。這次更新改善了繁忙工作時的效能,也會在清理工作累積、可能拖慢資料庫時,把警告寫進錯誤紀錄,方便及早處理。預覽環境中的資料庫最多保留 60 天,之後會自動刪除。

  4. PyTorch Blog83

    ExecuTorch 推出 WebGPU 後端,讓 PyTorch 模型在瀏覽器中以 GPU 推論

    ExecuTorch 推出 WebGPU 後端,讓 PyTorch 模型可匯出為 .pte 檔,並在支援 WebGPU 的瀏覽器中以 GPU 執行,資料留在使用者裝置上。

    推薦理由:文章比較 WebGPU 與 ExecuTorch CPU 路徑在同一臺 Apple M1 Pro 上的推論速度,並說明模型如何以同一個 .pte 檔在瀏覽器本機執行。

  5. Google Gemini73

    Google 開始向 Google AI Ultra 訂閱者推出前沿模型 Gemini 4 Carbon,可於桌面、行動裝置與網頁使用。 複雜任務:Google 稱模型能深入推理,並為高難度任務提供更周詳、可靠的輸出。 資料與設計:可將密集資料與檔案整理成簡報、試算表和報告,也能建立網頁應用程式、原型與 3D 場景。

    推薦理由:原文列出 Gemini 4 Carbon 在複雜任務、檔案分析與 3D、UI 設計上的用途,並說明 Ultra 訂閱者可開始使用。

  6. Google DeepMind81

    Google DeepMind 推出 Gemini 4 Carbon,開放開發者、企業、研究人員與消費者使用

    Google DeepMind 開放 Gemini 4 Carbon,主打複雜知識工作、長流程AI 助理工作流程、軟體工程、資安與科學推理,並提供多種產品與 API 使用入口。

    推薦理由:Carbon 展示資安防禦、長流程AI 助理與科學研究的能力及安全測試結果,並提供與 Argon 的基準和價格比較。

  7. NVIDIA Newsroom Press Releases83

    NVIDIA 捐贈 OpenShell 並推出 AI 工廠 Kubernetes 元件

    NVIDIA 將 OpenShell 捐贈給 CNCF,並公佈三項擴充 DSX AI Factory Platform 的開源元件,涵蓋AI 助理治理、Kubernetes 叢集管理與推論擴充套件。

    推薦理由:OpenShell、Agent Substrate 與三項 Kubernetes 元件分別處理AI 助理治理、工作負載擴充套件和推論容量,可看出 NVIDIA 推進 AI 基礎設施開源的不同切入點。

  8. LMSYS Org Blog83

    SGLang 團隊用 megakernel 讓 Muse Spark Open 在 Blackwell GPU 上達到每秒 1,109 個 token

    GPU 執行模型時,工作被拆成許多小步驟,步驟之間的等待會讓部分晶片閒著。LMSYS 團隊為 Muse Spark Open 寫了一種叫 megakernel 的大型 GPU 程式,把每一層的多項工作合在一起,讓不同部分能趁空檔先處理下一件事。在 Blackwell GPU 上,單次請求的解碼速度從每秒 517 個 token 提升到 1,109 個 token;團隊也把草稿模型的執行步驟從 175 次減到 8 次。這種做法目前只支援搭配猜測解碼的單一請求,團隊接下來打算擴充到多個請求。

    推薦理由:文章拆解 megakernel 如何合併 GPU 工作、減少等待,並以 Muse Spark Open 的實測展示效能變化,能看出低延遲推論的工程取捨。

  9. LMSYS Org Blog82

    SGLang 推出統一記憶體,讓混合模型按需求共用 GPU 空間

    混合模型會同時使用不同型別的記憶體,流量一變,原本分好的空間可能一邊用光、一邊閒置。SGLang 新增統一記憶體功能,讓各類資料共用一塊 GPU 空間,系統會依需求重新安排;即使資料大小和格式不同,也能一起管理。文章中的測試顯示,在 GPT-OSS-20B 的一種工作負載下,統一記憶體可同時處理約 1,000 個請求,原本的分池方式是 618 個,吞吐量也高 14%。這項功能目前仍屬實驗性,且有部分模型與功能限制。

    推薦理由:文章比較共用記憶體與固定分池在不同流量下的表現,並說明統一配置如何減少容量閒置與請求退回。

  10. AWS What's New38

    AWS 合作夥伴中心推出商業計畫新體驗,協助夥伴追蹤目標進度

    AWS 合作夥伴要拓展業務,或和 AWS 團隊一起做計畫時,過去得整理計畫內容、追蹤進度。現在可以在 AWS 合作夥伴中心共同訂出計畫、目標和行動,也能用 AI 輔助的分數找出計畫還需要補強的地方,並即時檢視目標進展。計畫還能加上附件、匯出,或透過 API 和 SDK 接進既有工作流程。這項服務提供給正在與 AWS 合作夥伴管理團隊合作的夥伴,使用區域是美國東部(維吉尼亞北部)。

11月10日週二
  1. Hugging Face Blog74

    Hugging Face 解說決策模型及其統一介面

    Hugging Face 介紹決策模型如何接收狀態與問題,直接輸出帶有機率的結構化決策,並說明其與分類模型及零樣本分類的差異。 - 三種決策原語:choice 從選項中擇一,score 對有序尺度評分,noul 估計是非命題為真的機率。

    推薦理由:文章比較傳統分類、零樣本分類與決策模型,並以 choice、score、noul 三種輸出說明其如何將選項機率整合為可供軟體使用的統一介面。

  2. Google DeepMind83

    Google DeepMind 推出 Gemini Robotics 2.5,提升機器人靈巧操作能力

    Google DeepMind 推出 Gemini Robotics 2.5,擴大機器人可學習的任務範圍,並提升執行速度、可靠度與安全性。 - 任務評估:模型在 200 多項任務中接受測試;相較先前基準,依任務型別成功率提高 30% 至 100%,完成速度快 20% 至 30%。

    推薦理由:文章以 200 多項任務的評估與 Mercedes-Benz 生產線概念驗證,呈現模型在操作能力、作業可靠度及機器人安全上的進展。

  3. PyTorch67

    PyTorch 介紹 CUDA Tile 如何將分開計算多個專案的直接實作融合成單一 tiled kernel,並將矩陣保留在暫存器中。 程式設計方式:使用 Python 型 DSL 與以 tile 為核心的原語,自動針對 Tensor Cores 和其他進階 GPU 硬體功能進行最佳化。 文章內容:提供範例、檔案與程式碼,展示如何撰寫清晰、易讀且高效能的 kernel。 全文:https://t.co/YVLyHtfWuJ

    推薦理由:CUDA Tile 將分開計算多個專案的 PyTorch 實作融合為單一 tiled kernel,並讓矩陣保留在暫存器中,呈現其核心程式設計方式。

  4. Globes Israel Tech36

    Mekorot 將升級哈薩克 Abai 地區供水基礎設施

    以色列國家供水公司 Mekorot 已簽署協議,將升級哈薩克 Abai 地區的供水基礎設施,協助改善水系統管理、營運與監控能力。 - 地區規模:Abai 地區面積約 185,000 平方公里,人口約 600,000 人,人口稀疏且涵蓋範圍廣,供水需要廣泛的基礎設施。

  5. Google AI Official Blog62

    Google 擴大與 Adobe 合作,將創意與生產力工具整合至 Google 產品

    Google 宣佈擴大與 Adobe 的合作,將 Adobe 創意與生產力工具整合至 Google 產品,並把 Google 的 AI 模型匯入 Adobe 應用程式。

    推薦理由:合作把 Adobe 工具接入 Google 的搜尋、郵件、雲端硬碟與 Gemini,並讓企業在 Gemini Enterprise 使用設計與行銷代理程式,呈現跨應用整合方向。

  6. AWS What's New48

    Amazon S3 可一次檢視多個 AWS 帳戶的存取授權

    管理不同 AWS 帳戶的 S3 存取授權時,得一個帳戶一個帳戶查,才能知道誰能讀取哪些資料。現在,Amazon S3 存取許可權管理可以用一次 API 呼叫,列出自己帳戶和別人分享給你的帳戶中的所有授權,並標明每筆授權屬於哪個帳戶。例如,要查某個 S3 路徑的存取憑證,系統也能找到負責的帳戶並回傳符合授權的憑證。這項功能已在所有提供 S3 存取許可權管理的 AWS 區域推出,不另收費。

  7. n8n Blog77

    n8n Labs 推出開源個人AI 助理 Nod 研究預覽版

    n8n Labs 推出個人AI 助理 Nod 研究預覽版,這款獨立桌面應用程式可在電腦上操作已連結的應用程式與網站,並支援 Mac 和 Windows。

    推薦理由:Nod 將個人任務交由本機AI 助理在應用程式與網站中執行,並提供記憶基準、許可權確認與成本收據,呈現其研究預覽的功能與使用邊界。