跳到正文

NVIDIA 輝達

輝達的 AI 晶片與生態動態:GPU 新品、CUDA 生態、機器人平臺與 AI 算力市場的風向。

最新精選

第 281–300 條 · 共 350 條
11月3日週二
  1. ByteByteGo Newsletter (Alex Xu)61

    Nvidia 的 Nemotron 3 如何運作?解析 Mamba、MoE 與模型效率設計

    Nvidia 的 Nemotron 3 結合 Mamba、注意力與 MoE,並搭配多 token 預測及低精度權重,降低模型生成與儲存的成本。 - 架構:Mamba 以固定大小的狀態處理序列,注意力保留連結較遠位置的能力;MoE 路由器則為每個 token 選用部分專家。

    推薦理由:文章拆解 Nemotron 3 如何結合 Mamba、注意力與 MoE,並說明各方法對逐 token 計算、KV cache 和模型儲存成本的影響。

11月2日週一
  1. Dev.to Top Tech87

    ipt OSS 2026 年 10 月更新:PHP2Shell、GitLab、eMudhra、Run:ai、OPA、llm-d 與 Pi

    ipt 發布 2026 年 10 月的 OSS 更新,涵蓋 PHP2Shell、GitLab、eMudhra、Run:ai、OPA、llm-d 與 Pi 等安全漏洞與新功能。

    推薦理由:本文整理了十月關鍵安全漏洞與開源更新,對於維護開源基礎設施的讀者可快速判斷優先修補專案,並可快速評估影響範圍與修補優先順序。

11月1日週日
  1. LMSYS Org Blog77

    GLM-5.3-Flash 如何在 H200 上提升長文本服務吞吐量

    長文本請求會佔用大量記憶體,也可能讓模型忙著處理輸入,來不及持續產生答案。作者在 SGLang 上調整 GLM-5.3-Flash 的快取共用、推測解碼和資料傳送方式,並分開測試輸入與輸出速度。在 4 張 H200 上,輸入處理速度提高到每秒 48,064 個 token;有 99.9% 共用字首時,輸出速度提高到每秒 12,027 個 token。整體結果也顯示,共用字首較少時,輸入處理仍是瓶頸;共用較多時,解碼端的改善更能提高整體速度。

    推薦理由:這組測試呈現共享字首比例如何改變服務瓶頸:字首重用少時,輸入處理仍限制整體吞吐量;重用高時,解碼端的調校更能轉成效能提升。

10月30日週五
10月29日週四
  1. The Decoder74

    NYT報導:中國間諜針對Nvidia CEO黃仁勳

    美國情報機構稱,Nvidia CEO黃仁勳圈內一名高管被中國間諜利用,並向北京提供資訊。 - 涉案高管:Alice Huang(黃樂),新加坡Megaspeed資料中心運營商,與黃仁勳關係密切。

    推薦理由:此事件凸顯美中高科技供應鏈安全風險,提醒企業重視內部情報防護,同時關注跨國供應商的合規審查。

  2. Hugging Face Blog75

    推出 AnySpeechRecognizer 與 AnyDecisionModel:Apple 平臺開放式語音與決策模型

    AnySpeechRecognizer:Swift 套件,支援 Apple Speech API、NVIDIA Parakeet、Alibaba Qwen3-ASR 等多引擎,並提供說話人分離功能。

    推薦理由:AnySpeechRecognizer 與 AnyDecisionModel 讓開發者能在 Apple 平臺快速接入多引擎語音辨識與決策模型,支援多語言、即時會話與說話人分離,並可本地化執行,顯著提升效能與成本效益。

  3. PyTorch Blog85

    PyTorch 2.15 釋出全新 NCCL 後端、MPS FP8 與跨平臺最佳化

    PyTorch 2.15 釋出全新 NCCL 後端、MPS FP8 支援以及跨平臺最佳化,為多 GPU 分散式訓練與低精度推理帶來顯著效能提升。 - NCCL:預設使用重寫後端,並提供 TORCH_DIST_USE_NCCL2=0 或 nccl-legacy 作為回滾。

    推薦理由:PyTorch 2.15 針對多平臺、分散式訓練與低精度推理進行大幅最佳化,並加入全新 NCCL 後端與 MPS FP8 支援,開發者可即時驗證新功能提升效能,同時提供 CUDA 13.2/13.4 以及 ROCm 10.0 wheels,讓跨平臺部署更順暢。

10月27日週二
  1. NVIDIA Newsroom Press Releases77

    NVIDIA 與 Meta 擴大 Muse 模型合作 迎來強勁成長

    導語:NVIDIA 與 Meta 宣佈擴大 Muse 模型合作,將進一步最佳化推理與訓練效能,並加強 AI 代理的安全與監控。 - 合作範圍:Muse 與 Muse 系列模型、NVIDIA OpenShell Reference Architecture、NVIDIA Sentry 監控。

    推薦理由:本公告凸顯大型科技巨頭在 AI 代理基礎設施上的深度合作趨勢,讀者可評估此策略對自身 AI 部署的啟示。

  2. The Decoder82

    Anthropic 以 2 兆美元估值上市,收入飆升 1,368%

    Anthropic 以 2 兆美元 估值上市,收入在 2026 年第二季飆升 1,368%,顯示 AI 產業快速擴張。 - IPO 估值:預計約 2 兆美元,高於私募估值 965 億美元。

    推薦理由:Anthropic 以 2 兆美元估值上市,收入增幅 1,368%,顯示 AI 產業快速擴張與巨額資金需求;投資者可洞悉其營收結構、客戶集中度、計算成本承擔與未來成長風險。

  3. The Verge · AI74

    Anthropic IPO 申報中的五個奇怪細節

    Anthropic 近日提交 S‑1 申報,披露高額薪酬、巨額計算投資與獨特股權結構,並列出多項風險。 - 高額薪酬:CEO Dario Amodei 近 $18M,總裁 Daniela 近 $16.4M,並為兩位高管支付 $2.75M、$1.29M 的個人保安費用,Dario 亦可使用私人飛機 $97,055。

    推薦理由:披露 Anthropic IPO 申報細節,揭示高額薪酬、巨額計算投資與獨特股權結構,為投資者評估風險與資金需求提供關鍵參考。

10月25日週日
  1. LMSYS Org Blog66

    miniTE 技術報告:用 NVFP4 加速強化學習,並處理訓練不穩問題

    大型語言模型用低精度運算可以省時間,但訓練到後期可能變得不穩,模型在訓練和生成時算出的機率也可能對不上。這份技術報告提出兩種做法:TRIAGE 會依照誤差和更新方向調整訓練;miniTE 則整理量化和運算方式,讓研究者比較誤差並加快運算。在 8×B300 的測試中,miniTE 搭配 BF16 反向運算,完整訓練更新速度約為 BF16 的 1.33–1.37 倍;另一項固定輸出的測試,生成速度約為 BF16 的 1.64 倍。不過,線上強化學習中轉換和同步權重會抵銷部分取樣收益,實際訓練的五項任務平均成績也仍低於 BF16。

    推薦理由:報告分開比較數值誤差、訓練表現與完整更新速度,呈現低精度運算在實際強化學習流程中的取捨。

10月24日週六
10月23日週五
10月22日週四
  1. NVIDIA Blog84

    NVIDIA Cosmos 開啟新工具,協助訓練、評估與部署世界模型

    NVIDIA Cosmos 於近日推出一系列新工具與藍圖,旨在加速世界模型的訓練、評估與部署。 - Cosmos Data Factory:提供多模態、跨感官資料標註、增強與評估的雲端原型,支援自動駕駛、工業檢測等多種場景。

    推薦理由:NVIDIA Cosmos 透過新工具與藍圖,讓企業可快速生成多模態訓練資料,並大幅縮短自動駕駛測試週期。

  2. NVIDIA Blog76

    歐洲金融機構領先採用開源模型打造專屬智慧

    導語: NVIDIA 官方部落格報導歐洲金融機構如何利用 NVIDIA GPU 加速開源模型,從 Revolut 的 PRAGMA 到 Stripe 的 Radar,展示了成本與效能的顯著提升。

    推薦理由:文章說明歐洲金融機構如何利用 NVIDIA GPU 加速開源模型,展示成本與效能的顯著提升,對類似行業的部署策略具有參考價值。

  3. Hugging Face Blog82

    NVIDIA Kumo Relational 零訓練即時預測,超越傳統監督式機器學習

    Kumo Relational 是一個預訓練關係型基礎模型,能在不需要任務特定訓練的情況下,直接對企業資料庫進行一次前向推論,預測流失、需求或詐騙等結果。

    推薦理由:Kumo Relational 以零訓練即時預測,顯示基礎模型可直接取代傳統 XGBoost,對企業資料科學流程帶來顯著效率提升,並提供可即時部署的開源框架。

10月21日週三
  1. Hugging Face Blog80

    發布 SimReady Central:機器人與 AI 工廠的開源 3D 資產庫

    導語:SimReady Central 是 Hugging Face 推出的開源 3D 資產庫,提供 2,000+ 具備碰撞、質量等物理屬性的 OpenUSD 模型,讓機器人與 AI 工廠開發者可直接構建模擬環境。

    推薦理由:SimReady Central 供 2,000+ 具備碰撞、質量屬性的 3D 資產,開發者可在 Hugging Face 構建 AI 工廠與機器人模擬,省去手動新增屬性的繁瑣。