最新精選
第 361–378 條 · 共 378 條新模型架構常讓推論和訓練工具得花時間才能跟上。SGLang 和 Miles 在 Inkling 推出時就加入支援,並為它的短卷積、相對位置注意力和共享專家設計調整執行方式。Inkling 最長可處理 1M 個 token;在 NVIDIA Blackwell GPU 上,SGLang 的輸入處理速度最高達每秒 71.7k 個 token,單一使用者生成速度最高為每秒 171.0 個 token。Miles 也支援文字與影像任務的強化學習訓練,並用路由重播等方法讓訓練和推論的計算保持一致。
推薦理由:文章對照 Inkling 的注意力與 MoE 設計,說明 SGLang 如何調整推論流程,也呈現 Miles 如何讓訓練和推論使用一致的模型行為。
長對話會讓 AI 助理每次回覆都得處理大量舊內容,降低互動速度。SGLang 團隊調整 GLM-5.2 的推論流程,包括讓 GPU 工作彼此接上、重用索引結果,並合併部分運算步驟,減少等待和多餘工作。在 OpenHands 多輪程式開發測試中,GLM-5.2 每輪約有 80K token 的輸入;團隊表示,8 張 B300 上每秒可處理 500 多個輸出 token,單人互動速度比最初版本提升 18% 至 34%。這些數字來自文章設定的硬體與工作負載,其他使用情境的表現可能不同。
推薦理由:文章拆解 SGLang 如何從排程、索引器到矩陣乘法逐步降低推論開銷,並以不同硬體與工作負載的實測呈現速度變化。
推測解碼能減少模型逐步產生文字的時間,但同時驗證太多候選文字,負載一高也會拖慢服務。SGLang 團隊把 DSpark 整合進服務引擎,讓系統依每筆請求的預測把握度,決定要驗證多少候選文字;較有把握的請求可用較短的驗證範圍,降低運算負擔。文章用 DeepSeek-V4 等模型展示測試結果,並說明如何讓不同請求在同一批次採用不同範圍。團隊也提醒,測試硬體和流量與論文不同,重點是呈現運作方式與趨勢,數字不應直接視為論文結果的重現。
推薦理由:SGLang 團隊展示 DSpark 如何依各請求的預測把握度調整驗證長度,並比較不同負載下的吞吐量與延遲表現。
SGLang 涵蓋模型推論、GPU 核心和擴散模型,開發者常得靠記憶處理除錯、效能測試和程式碼檢查。SGLang 團隊把這些工作整理成技能、指令碼和檢查流程,讓 AI 助理能照固定步驟執行測試、讀取效能資料、修改程式,再用相同條件重新驗證。文章也分享實際最佳化案例,例如一項 B200 擴散模型核心工作,從固定測試資料、確認正確性到檢查實際模型表現,都留下可供檢視的證據。團隊強調,AI 助理可以接手重複工作,目標設定、判讀結果和檢查修改仍由開發者負責。
推薦理由:SGLang 團隊整理出把除錯、效能測試與程式碼檢查寫成可重複流程的方法,並用實際案例說明如何留下可供檢查的成果。
- Air Street Press精選品質評分7979
ElevenLabs 口語模型在 GPU 缺乏時提升使用者吞吐的工程實踐 - 批次化:連續批次化可將 GPU 佔用率提升至 95%,每個 GPU 可同時處理多個請求,減少等待時間。
推薦理由:文章以 ElevenLabs 口語模型實測為基礎,闡述批次化、量化、KV 壓縮等技術在 GPU 資源稀缺時提升使用者吞吐的方案,對語音服務成本與效能提供參考。
- Together AI Official Blog精選品質評分7777
Together AI 在 ICML 2026 展示了九篇跨層研究,從代理到 GPU 核心,涵蓋模型、演算法、系統與硬體最佳化。 - 代理層:DSGym 1,000+ 任務、10+ 領域;ThunderAgent 3.6× 推理吞吐量、3.9× RL 迭代速度提升。
推薦理由:Nine ICML 2026 論文涵蓋從代理到 GPU 核心的全棧研究,讀者可洞悉跨層最佳化的實際效能與落地策略,並展示多層協同效益與實際部署案例。
MoE 模型把工作分給多張 GPU 時,熱門專家可能讓部分 GPU 忙不過來,其他 GPU 卻在等。NVIDIA 團隊介紹 SGLang 的兩種分流方法:Waterfill 把共用專家的工作交給較不忙的 GPU;LPLB 則在同一專家的多個副本之間調整工作量。兩者都保留模型原本選的專家,只改由哪張 GPU 執行。測試中,Waterfill 在 DeepSeek-V3/R1 型別的工作負載上提升吞吐量 1.48% 到 4.66%;LPLB 在有專家副本可供分流時提升 0.84% 到 7.34%。LPLB 沒有副本可選時則無法平衡負載,還會增加運算開銷。
推薦理由:文章以相同硬體與工作負載比較兩種分流方法,呈現它們各自適用的負載型別,以及流量平衡後的吞吐量變化。
- DevClass (Developer News)精選品質評分7777
AWS Lambda MicroVMs 於 2026 年 6 月推出,允許使用者在 Lambda 平臺上執行長達 8 小時 的獨立 Linux 容器。
推薦理由:AWS Lambda MicroVMs 允許長達 8 小時的獨立容器執行,擴充傳統 15 分鐘限制,為 CI/CD 與 AI 代理提供更靈活的雲端執行環境,並可在無流量時自動暫停,降低成本。
- Modal Engineering Blog精選品質評分7272
Modal 針對沙盒啟動延遲進行拆解,指出容器啟動只是整個流程的一小段,真正耗時的是應用程式初始化。 - 完整啟動週期 Created → Scheduled → Started → Ready → In Use,容器啟動時間通常佔不到 10% 的總等待。
推薦理由:瞭解沙盒啟動全流程與最佳化方法,能協助工程師減少使用者等待時間並提升系統吞吐量,在高併發環境下更顯優勢。
大型語言模型一次只生成一個 token,推論速度可能因此受限;一般草稿模型也要逐個產生候選內容。Z Lab、Modal 和 SGLang 團隊推出 DFlash 草稿模型,並將它整合進 SGLang 的 Spec V2 引擎。DFlash 一次平行草擬一整段內容,還會把目標模型整理好的上下文資訊送進草稿模型,幫助它提出較容易被接受的內容。在 Qwen 3.5 397B-A17B、HumanEval、請求並行數為 1 的測試中,DFlash 的吞吐量超過基準模型 4.3 倍,也比原生 MTP 高 1.5 倍。
推薦理由:文章比較 DFlash 與 EAGLE-3 的草稿速度、接受長度和端到端速度,並說明 KV 注入與平行草稿各自帶來的影響。
Graviton5 推出 M9g/M9gd EC2 實例,帶來 30% 效能提升與 25% 能效最佳化。- 核心特性:192 核心、DDR5‑8800、PCIe Gen6、3nm 工藝,單核心提升 25%。
推薦理由:Graviton5 的 3nm 工藝與 192 核心帶來 30% 的效能提升,對需要高效能雲端運算的客戶可直接提升工作負載效能。
AI 助理要長時間分步完成工作,得能持續推理、使用工具,也要讀懂大量資料。NVIDIA 推出 Nemotron 3 Ultra,並宣佈 SGLang 和 Miles 從首日就支援:開發者可用 SGLang 執行模型,也能用 Miles 進行強化學習訓練。模型有 550B 個引數、最多 1M tokens 的上下文視窗,提供 BF16 和 NVFP4 版本。團隊也在 128 張 H200 GPU 上跑過訓練流程;這些是初步檢查,並非已收斂的訓練結果。
推薦理由:Nemotron 3 Ultra 同時提供模型推論與後訓練支援,文中也交代長時間多步任務的設計,以及 128 張 H200 GPU 的訓練初步檢查結果。
- Together AI Official Blog精選品質評分7575
Together AI 於今日正式推出 NVIDIA Nemotron 3 Nano Omni 模型,並於同日即時提供開發者使用。 - 多模態推理:單一模型即可同時處理影像、影片、音訊與文字,支援 256K token 的共享上下文。
推薦理由:本篇說明 NVIDIA Nemotron 3 Nano Omni 在 Together AI 上,與 Agent 效能,對落地 Agent 的開發者具參考價值。
- Together AI Official Blog精選品質評分7979
Aurora 是一個基於 RL 的框架,能在實際推理流中持續學習並自動更新 speculator,將靜態的推理加速轉變為動態的自我最佳化迴圈。
推薦理由:Aurora 透過 RL 於實際推理流中自動調整,實現 1.25 倍速度提升與成本降低,提供可落地的即時最佳化方法。
本文說明如何以高並行度與統計嚴謹性,構建可自動化測試 AI 網頁代理的評估系統,對提升代理品質與迭代速度的開發團隊極具參考價值。 - 測試引擎:使用 Blacksmith runners 在 GitHub Actions 上並行執行 100 個複雜網頁任務,整個流程不到 5 分鐘。
推薦理由:本文說明如何以高並行度與統計嚴謹性,構建可自動化測試 AI 網頁代理的評估系統,對提升代理品質與迭代速度的開發團隊極具參考價值。
- Davis Summarizes Papers精選品質評分7373
DBRX 是一款 132B 引數的 MoE LLM,經 12T tokens 訓練後,效能已超越 GPT-3.5。 - 模型規格 132B 引數、4-of-16 MoE、RoPE 位置編碼、LION 最佳化器、LayerNorm 取代 RMSNorm。
推薦理由:DBRX 132B 引數 MoE LLM 以 12T tokens 訓練,效能超越 GPT-3.5,展示了 MoE 與資料品質對 LLM 成效的關鍵作用。
Mistral 7B 透過 Ollama 在瀏覽器端實現本地 LLM,搭配 LangChain、Voy 與 Transformers.js 完成 RAG 網頁應用。
推薦理由:本文示範如何利用瀏覽器端本地模型構建 RAG 應用,提供可直接套用於前端開發的實作範例,並說明如何透過 Ollama 與 LangChain 連結本地 LLM,降低成本與提升隱私。
- Lilian Weng (Lil'Log)精選品質評分7878
Lil'Log 文章以實務角度拆解在多 GPU 上訓練極大型模型的關鍵技術。 - 資料並行 - DP、BSP、ASP、梯度累積、AllReduce 方案 - 模型並行 - 將模型切分為多層或多分割槽。
推薦理由:本篇以實務角度拆解多 GPU 訓練策略,提供可直接套用於大型模型開發的最佳實踐,並詳述資料、模型、張量並行與記憶體最佳化技巧。