最新精選 第 301–320 條 · 共 349 條 19:09 NVIDIA 推出 Confidential Bare Metal,允許前沿模型建構者在第三方裸金屬環境中安全擴充套件工作負載。 - 部署選項:提供 Confidential Bare Metal、Confidential Containers、Confidential Virtual Machines 三種模式,滿足不同信任與運營需求。
推薦理由:NVIDIA 新增 Confidential Bare Metal 讓模型建構者可在第三方裸金屬環境安全擴充套件,提供硬體級隔離與加密保護,對全球 AI 訓練與推論架構具有重要影響。
19:09 NVIDIA Cloud Partners 在歐洲擴大雲端基礎設施,並推出安全代理架構與開放模型服務。 - Nscale 利用 NVIDIA DSX 平臺,測試中提升 37% GPU 效率與 50% 推理吞吐量。
推薦理由:文章說明 NVIDIA 及合作夥伴如何在歐洲擴大 AI 雲端基礎設施,並提供安全邊界與開放模型,對於想在歐洲部署 AI 代理的開發者與企業具有實務參考價值。
19:09 導語:Google Cloud 與 NVIDIA 推出 Vera Rubin 基礎設施,將於下個月正式開放,為雲端客戶提供數十萬 GPU 的高效能訓練與強化學習平臺。
推薦理由:Google Cloud 與 NVIDIA 推出 Vera Rubin 基礎設施,提供數十萬 GPU 與高頻寬連線,支援大規模強化學習與機器人代理開發,並提供機密計算與能源效率最佳化,滿足企業對隱私與效能的雙重需求。
18:09 NVIDIA CEO 黃仁勳在GTC Berlin 2026關鍵演講中宣佈,歐洲已投資近100億美元,並推出DSX POD等全新AI工廠解決方案。 - DSX POD:模組化容器化AI工廠,部署時間從六個月縮短至14天。
推薦理由:NVIDIA在歐洲投資近100億美元,並推出DSX POD等全新AI工廠解決方案,對歐洲AI產業發展具重要指標性影響。
18:09 NVIDIA 近日發布一系列涵蓋語言、機器人、生物與量子計算的開源模型,為歐洲企業提供可本地化、可擴充套件的 AI 基礎。
推薦理由:NVIDIA 推出涵蓋語言、機器人、生物與量子領域的開源模型,讓開發者能以本地化資料快速構建專屬 AI 應用,顯著提升跨產業整合效率。
00:00 大型 MoE 模型流量增加時,常見做法是多開一份完整服務,或停機重啟來增加 GPU;兩種方式都會帶來額外成本或等待時間。這篇文章說明 SGLang 如何讓運作中的服務逐步加入 GPU,例如把 20 張 GPU 擴到 24 張,準備新 GPU 時原本的服務仍可工作。擴充前要先設定可達到的 GPU 上限,預留的通訊記憶體越多,留給 KV cache 的空間就越少。文中在 8 張 H100 上比較,擴充後首次完成請求的時間比重啟快 5.3 到 8.2 倍;轉換期間則會暫停傳送 token。
推薦理由:文章說明 SGLang 如何在服務持續運作時分批加入 GPU,並比較轉換時間與輸出速度,可用來評估大型 MoE 部署的擴充方式。
13:55 SGLang Releases 精選品質評分 78 78 SGLang v0.5.22 釋出,新增多模型支援、效能最佳化與跨平臺功能。 - 新模型:DeepSeek‑V4.1、Qwen3.8‑Flash‑Next、GLM‑5.3‑Flash、MiMo‑V2.6‑Pro、EmbeddingGemma 2、LLaDA2.2、HunyuanImage‑3.0‑Instruct 等。
推薦理由:本次更新大幅提升多平臺推理吞吐量並加入多模型支援,開發者可直接使用新功能加速多模態應用,並在多種硬體上獲得顯著效能提升。
08:00 vLLM Official Blog 精選品質評分 73 73 vLLM 官方團隊介紹如何利用非同步準備與 NIXL EP 通訊函式庫,實現具備近乎零停機時間的彈性專家平行(Elastic EP)擴充套件能力。
推薦理由:原文介紹 vLLM 透過非同步準備與 NIXL EP 實現彈性專家平行,讀者可瞭解如何將擴充套件停機時間縮短至秒級以下。
05:15 RTX Spark 為新款 Windows PC 引燃全球慶典。 - GPU/CPU:搭載 NVIDIA Blackwell RTX GPU 與 Grace CPU,提供高達 1 petaflop AI 計算。
推薦理由:RTX Spark 搭載 Blackwell GPU 與 Grace CPU,提供 1 petaflop AI 計算與 128GB 統一記憶體,適合本地 AI 與創作,對於需要高效能移動工作站的使用者具有重要參考價值。
00:00 低延遲推論常需要為不同模型和 GPU 寫專用程式碼,難維護,也會拖慢回應。SGLang 推出低延遲模式,透過外掛接上 NVIDIA 與 AMD 的專用核心,並讓一般執行流程繼續處理外掛不支援的情況。在 AgentX 測試中,四張 NVIDIA GB300 GPU 的單一連線速度從每秒 671.2 個 token 提升到 928.4 個;四張 AMD MI355X GPU 在四個連線時,則從 331.6 提升到 516.0。兩組結果都是和相同硬體上的 SGLang 基準比較。
推薦理由:文章比較 NVIDIA 與 AMD GPU 上的實測結果,也說明外掛如何讓專用核心接上 SGLang,呈現低延遲最佳化的效能與維護取捨。
09:47 Hugging Face Blog 精選品質評分 74 74 本研究釋出一份 2.8 兆 token 的 Indic 語料庫與可重複使用的 GPU 加速資料生成管線,並說明其在 Nemotron 3.5 Super VL 上的效能提升。
推薦理由:提供了可複製的 2.8 兆 token 語料與 GPU 加速生成流程,可幫助研究者構建更強的印度語言模型,並展示其在多項 Indic 評測中的顯著提升。
08:00 vLLM Official Blog 精選品質評分 72 72 vLLM 團隊利用代理協助開發,為 NVIDIA GB300 上的 Kimi K3 建構統一的 CuTe DSL 解碼路徑,實現 842 tokens/s 的解碼速率(比原版快 1.73 倍)並提升 P90 互動性至 403.2 tokens/s。
推薦理由:本文說明如何利用代理開發加速 Kimi K3,並提供可複製的驗證流程,對想提升 GPU 端推理效能的工程師具有實務參考價值。
23:34 NVIDIA 今日發布 Nemotron 3.5 Super VL 120B 引數模型,並推出兩款邊緣模型:Bolt 74B-A9B 24GB 與 Bolt E4B 4GB,覆蓋從大型資料中心到邊緣裝置的所有 agent 部署需求。
推薦理由:NVIDIA 推出開放式 120B 模型,兼具速度與精準,適合企業與邊緣部署,並提供多種量化選項以降低記憶體需求,並支援在 RTX、Jetson 與 DGX Spark 等硬體上即時部署。
18:29 NVIDIA 在歐洲科學社群推出一系列開放學習資源、合作計畫與計算平臺,為研究人員提供先進工具與支援。 - 開放資源:已發布 250+ 開源模型、資料集及 1,400+ 軟體專案,涵蓋 LLM、醫療、機器人、氣候科學等領域。
推薦理由:NVIDIA的開放資源與計算平臺,為歐洲科研社群提供實用工具與培訓,促進跨領域創新,並加速新技術落地。
08:00 vLLM Official Blog 精選品質評分 82 82 vLLM 宣佈與 Meta Superintelligence Labs 合作,於 vLLM 實現對開源稀疏混合專家(MoE)模型 Muse Spark Open 的 Day 0 支援。
推薦理由:原文詳細說明模型的架構設計與硬體部署優勢,讀者可藉此評估大規模混合專家模型在跨硬體平臺上的執行效率與整合方式。
15:03 NVIDIA 宣佈在英國投資新創,並承諾 5 年 2.5 億美元算力,以推動 AI 安全與創新。 - 計畫內容:5 年 $250M 算力承諾,聚焦代理安全與研究。
推薦理由:NVIDIA 以 2.5 億美元計畫投資英國 AI 生態,為創新與安全研究提供算力與資源,讀者可瞭解企業如何與新創合作推動產業升級。
20:47 NVIDIA RTX Spark 於 10 月 16 日正式上市,結合 128GB 統一記憶體與 1P AI 計算,為遊戲、創意工作與本地 AI 代理提供全新平臺。
推薦理由:RTX Spark 的 128GB 統一記憶體與 1P AI 計算為本地代理與創意應用提供了前所未有的效能與安全性
23:28 NVIDIA 在 OCP 全球峰會上公佈了開放式 Vera Rubin 架構與多項開源標準,為 AI 工廠提供可擴充、節能的基礎設計。 - Vera Rubin MGX 1.2 版擴充了盲接液冷、5,000A 電源槽與 19 吋裝置支援,支援最高 250kW 的機架部署。
推薦理由:NVIDIA 透過開放 Vera Rubin 架構與標準,為 AI 工廠提供可擴充、節能的基礎,讀者可瞭解如何整合此開源設計於自家部署。
08:00 vLLM Official Blog 精選品質評分 74 74 vLLM 官方部落格介紹了一項雙向 KV 快取傳輸機制,旨在解決多輪對話與代理工作負載中,預填(prefill)節點因重複計算上下文而導致首字延遲(TTFT)升高的問題。
推薦理由:文章詳細說明如何在 vLLM 中配置雙向 KV 傳輸以降低多輪對話延遲,讀者可藉此瞭解如何減少重複的 prefill 計算並最佳化推理效能。
06:02 把模擬想法做成能測試的場景,常得準備 3D 物件、設定物理效果,再反覆檢查結果。NVIDIA 整理多個開發案例,示範如何用自然語言引導 AI 助理搭配 Omniverse 工具建立模擬,有人測試機器人搬罐子,有人檢查瓦斯渦輪機在不同條件下的反應,也有人把工廠掃描資料整理成可修改的建築模型。開發者仍要檢視模擬結果並修正問題;這些案例展示了模擬如何協助團隊先在電腦裡試做,再評估設計或操作方式。
推薦理由:這篇整理多個實作案例,呈現開發者如何用 AI 助理組裝模擬場景、測試機器人與工業流程,並依模擬結果調整設計。
上一頁 1 … 14 15 16 17 18 下一頁