跳到正文

NVIDIA 輝達

輝達的 AI 晶片與生態動態:GPU 新品、CUDA 生態、機器人平臺與 AI 算力市場的風向。

最新精選

第 21–40 條 · 共 350 條
11月20日週五
  1. NVIDIA Blog71

    NVIDIA 與 Microsoft 擴大 AI 運算,從 Azure 延伸到 Windows 電腦

    企業想把 AI 用在工作上,得先決定模型要放在哪裡、如何配合自家資料。NVIDIA 和 Microsoft 擴大合作,讓企業能在 Azure 使用 NVIDIA Vera Rubin NVL72 系統,也能透過 Microsoft Foundry 調整 NVIDIA Nemotron 開放模型,再部署到雲端或企業自己的裝置。EY 用這種方式調整模型來分類採購紀錄,在自己的評估資料上準確率提高 55%,成本比專有前沿模型低 15 倍。合作也把 AI 部署選項延伸到 Azure Local、工業用邊緣裝置和 Windows 電腦,讓企業能依資料位置與工作需求選擇執行方式。

    推薦理由:NVIDIA 與 Microsoft 把雲端、企業內部和個人電腦的 AI 部署選項串在一起,也展示企業如何用自家資料調整開放模型。

  2. Dev.to Top Tech78

    NVIDIA RTX Spark 桌機開賣,從 $4,399.99 起可在本機跑 AI 模型

    想在自己電腦上跑大型 AI 模型,常會遇到顯示卡記憶體不夠,或不想把資料送到雲端的問題。NVIDIA RTX Spark 桌機已在美國開賣,MSI 64GB 機型售價 $4,399.99;較大的 128GB 記憶體配置,則能讓 120B 引數模型載入本機。共享記憶體也讓 CPU 和 GPU 能使用同一大池記憶體,但裝得下不代表跑得快。文中整理 ASUS、MSI、Dell 和 Microsoft 機型的價格與限制,並提醒目前桌機效能數字來自廠商,還沒有獨立測試;此外,這些電腦使用 Arm 架構,購買前要確認常用軟體能否順利執行。

    推薦理由:文章整理各款 RTX Spark 桌機的價格與記憶體配置,也說明本機執行大型模型的隱私好處,以及效能數字尚無獨立測試佐證。

  3. Dev.to Top Tech76

    如何用 llama.cpp 加速 Qwen3.8-27B:NVIDIA 草稿模型可能不如內建 MTP

    在 24 GB 顯示卡上跑 Qwen3.8-27B,加入草稿模型不一定會更快,還可能因為佔用太多顯示記憶體而變慢。作者實測並整理模型卡與 llama.cpp、vLLM 的說明,教人比較 NVIDIA 的 4B 草稿模型和模型內建的 MTP。以文中的估算來看,Q4_K_M 量化後,兩個模型光是權重就要 20.16 GB,還沒算上下文等額外用量;短回答、容易猜錯的內容,也可能讓草稿模型得不償失。作者建議用自己的常見提示詞,分別測試兩種方法和不使用草稿模型時的生成速度,再選較快的設定。

    推薦理由:文章把接受長度、草稿模型耗用的顯示記憶體與回復檢查點成本放在一起比較,說明為何 4B 草稿模型在單張消費級 GPU 上未必勝過內建 MTP。

  4. AWS Machine Learning Blog72

    AWS 示範如何在 Amazon EKS 上讓多個工作負載共用 NVIDIA GPU

    GPU 記憶體還有空間時,使用者仍可能因為每個工作負載都得獨佔一張 GPU 而排隊。這篇教學示範如何在 Amazon EKS 安裝 NVIDIA Run:ai GPU Fractioning,讓兩個工作負載共用一張 NVIDIA A10G,並各自設定 8 GiB 記憶體上限。實測中,兩個工作負載都在同一張 GPU 上成功使用 6 GiB;另一個嘗試使用 9 GiB 的工作負載則收到記憶體不足錯誤。這能幫忙確認記憶體限制是否生效,但不代表運算速度會提升,也不能取代隔離與效能測試。

    推薦理由:文章用實測說明兩個工作負載如何共用一張 A10G,並交代記憶體上限、監控方式與正式部署前需要留意的隔離和效能條件。

11月19日週四
  1. Tom’s Hardware AI & Computing76

    三張二手 Nvidia V100 跑 Qwen 3.6 35B,長上下文仍有每秒 72.7 個 token

    想在家用電腦跑大型語言模型,買新顯示卡可能很花錢。這篇評測用三張二手 Nvidia V100 組成總價 $1,042 的主機,測試 Qwen 3.6 35B;在 4K 上下文時,每秒約產生 100 個 token,到了 128K 仍有 72.7 個。作為比較,三張 P100 在相同條件下只有 40.2 個,V100 每次測試的 GPU 耗電也約是 P100 的一半。作者提醒,各臺裝置使用的執行工具不同,因此比較數字只能大致參考。

    推薦理由:這組測試比較不同退役 GPU 在長上下文下的速度與耗電,也列出自組成本,可用來評估舊卡能否應付本機模型推論。

  2. X.PIN77

    Nvidia 已停止向中國出貨獲準銷售的 AI 晶片。臨時執行長 Colette Kress 表示,截至 10 月 25 日的季度,公司在中國售出價值 $2.4 billion 的 Hopper 世代產品,但目前沒有進一步出貨計畫。這則訊息交代了相關產品上一季的銷售情況,也說明後續出貨將暫停。

    推薦理由:Nvidia 已停止向中國出貨獲準銷售的 AI 晶片,文中也交代上一季相關產品的銷售額與後續出貨安排。

  3. BlockTempo 動區動趨78

    馬斯克批評 NVIDIA 撤換黃仁勳,稱願意聘用他

    NVIDIA 撤換黃仁勳後,馬斯克在《紐約時報》DealBook 峰會上說這是錯誤決定,還把黃仁勳比作巔峰時期的 Michael Jordan,表示自己願意聘用他。馬斯克認為,黃仁勳熟悉供應鏈與長期合作關係,也深受團隊愛戴;他並提到 SpaceX 正擴大 AI 算力,所需裝置包含 NVIDIA 晶片。NVIDIA 董事長表示董事會無意讓黃仁勳復職,並已尋找接班人;報導也引述訊息人士稱,仍有 3 名董事推動他回任。

    推薦理由:馬斯克以供應鏈合作、員工忠誠與 SpaceX 採購說明他看重黃仁勳的原因,也呈現董事會公開立場與部分董事意見的落差。

  4. Dev.to Top Tech83

    Anthropic 以 $83 發行股票上市,Claude 開發者需留意平臺變化

    Anthropic 上市後,Claude 開發者關心的問題是,公司股權與資金來源改變,會不會影響平臺的定價和穩定性。Anthropic 以每股 $83 發行股票,募得約 $81.34 billion;上市後 Amazon 和 Google 預計合計持有約 29% 股份,兩家公司也提供雲端服務。文章指出,上市能帶來更多資金,也讓 Anthropic 面對股東與每季財報的壓力。Claude 的方案、限制和 API 價格並未因上市公告改變,相關影響要看之後公司的決策。

    推薦理由:文章整理 Anthropic 上市後的股權、雲端供應商關係與資金壓力,呈現 Claude 開發者需要留意的定價與平臺風險。

  5. Rohan Paul68

    NVIDIA 員工對公司近期做法看法不一。根據《紐約時報》,暫代執行長 Colette Kress 告訴感到不安的員工,公司的晶片規劃和開放模型策略不會改變。報導也提到,有些員工簽署信件支援 Huang;另有 3 名知情人士說,有些員工不滿他削弱了業界在 AI 模型發布前先做安全測試的計畫。

    推薦理由:內容交代 NVIDIA 暫代執行長向員工重申晶片規劃與開放模型策略,並呈現員工對模型發布前安全測試的不同看法。

  6. The Economic Times · ETtech78

    Bill Ackman 批評 Nvidia 董事會倉促處理黃仁勳離職

    黃仁勳離開 Nvidia 後,董事會是否充分查清相關報導與可能影響,成了外界爭論焦點。投資人 Bill Ackman 在 X 發文,批評董事會在事實尚未完整釐清前就接受他的離職,還排除讓他回任的可能;他認為董事應評估相關關係是否涉及權力濫用,以及對公司、員工、客戶和股東的影響。Nvidia 表示,沒有理由相信國安或公司機密遭到洩漏。公司已由財務長 Colette Kress 暫代執行長,董事長則表示董事一致接受黃仁勳離職,無意讓他回任。

    推薦理由:Ackman質疑董事會在掌握完整事實前就決定不讓黃仁勳回任,這場爭議也牽涉董事如何評估公司、員工與股東可能承受的影響。

  7. Rohan Paul73

    Nvidia 的信用評等沒有下調,但 Moody’s 因黃仁勳離任和公司缺少正式接班計畫,將展望調為穩定。Moody’s 維持 Aa1 評等,這是它的第二高評等;報導指出,未來 12 至 18 個月內升評看來不太可能。Moody’s 資深副總裁 Raj Joshi 表示,這項離任訊息讓公司策略和財務政策增添不確定性。

    推薦理由:評等仍維持 Aa1,但接班安排帶來的策略不確定性,已反映在展望轉為穩定,並讓未來 12 至 18 個月升評的可能性降低。

  8. TechCrunch · AI82

    黃仁勳離任後,Microsoft 執行長納德拉仍看好 Nvidia 團隊

    Nvidia 執行長黃仁勳離任後,外界關心這家公司的領導變動會帶來什麼影響。Microsoft 執行長納德拉在活動上表示,他仍對 Nvidia 團隊有信心,並提到代理執行長 Colette Kress 曾在 Microsoft 工作,他也一直與 Nvidia 的同一批人保持聯絡。報導也提到,黃仁勳離任前曾因多段婚外情報導受到質疑,其中一名相關人士被美國官員認為可能替中國蒐集資訊;這些是報導所述的指控與官員看法。納德拉並以 Bill Gates 為例,談到創辦人離開後,公司仍須有人接手。

    推薦理由:納德拉的說法呈現合作夥伴如何看待黃仁勳離任後的 Nvidia 團隊,可從中瞭解接班安排與外界信心的關聯。

  9. aihot68

    Palmer Luckey 認為 Nvidia 領導層變動可能影響美國產業競爭力

    Nvidia 的領導層變動引來業界人士關注。Anduril 執行長 Palmer Luckey 在 DealBook Summit 上表示,這項變動可能影響美國產業競爭力,並呼籲 Nvidia 恢復黃仁勳的執行長職位。報導也提到,已有超過 20 萬人參與要求黃仁勳復職的連署;Nvidia 臨時執行長 Colette Kress 則在財報電話會議上表示,公司目前沒有重新任命黃仁勳的計畫。

    推薦理由:Palmer Luckey 將 Nvidia 領導層變動連結到美國產業競爭力,呈現業界人士如何看待企業人事與產業發展的關係。

  10. TechCrunch · AI77

    Palmer Luckey呼籲Nvidia讓黃仁勳回任,認為中國樂見他離開

    Nvidia創辦人黃仁勳離開執行長職位後,外界開始討論這項人事變動對美中晶片競爭的影響。Anduril執行長Palmer Luckey認為,中國樂見黃仁勳離任,因為中國想扶植本土晶片業者;他雖不同意黃仁勳主張放寬對中國出口晶片,仍呼籲Nvidia讓他回任。中國政府已限制部分中國客戶購買Nvidia的H200晶片,Nvidia表示不再向中國出售H200。超過20萬人連署支援黃仁勳回任,但Nvidia高層表示目前沒有重新任命他的計畫。

    推薦理由:Luckey認為黃仁勳離任會讓美國在晶片競爭中變弱;報導也交代中國限制H200進口與Nvidia的回應。

  11. Tomasz Tunguz Blog66

    Tomasz Tunguz 分析 NVIDIA 收緊新雲業者融資,可能讓超大規模雲端商更有籌碼

    NVIDIA 面臨的難題不只是晶片需求,而是要決定把資源提供給哪些客戶。Google、Amazon、Microsoft 和 Meta 等大型雲端業者每季採購 $60.1b 的 NVIDIA 硬體,同時也在開發自家晶片;新雲業者與前沿實驗室每季採購 $47.5b,卻沒有打造競爭晶片,並仰賴 NVIDIA 提供資金支援。文章指出,NVIDIA 正提高融資門檻,要求新雲業者準備好供電設施和自有資金。作者認為,這可能放慢資金較緊的小型業者成長,也讓大型雲端商在 NVIDIA 的客戶中更有影響力。

    推薦理由:文章比較兩類客戶的採購規模與競爭關係,說明 NVIDIA 收緊對新雲業者的資金支援,可能如何影響買家多元性。

  12. aihot84

    Nvidia 財報電話會談黃仁勳去留與 neocloud 採購條件

    Nvidia 首次由臨時 CEO Colette Kress 主持財報電話會,外界也關心黃仁勳是否會回任。董事會表示不打算讓他回來,也不會回答相關問題。財報揭露,neocloud 必須先取得融資,並讓資料中心建成投產,才能獲得 Nvidia 的採購兜底。作者認為,這些條件顯示 Nvidia 支援 neocloud 的承諾有明確界線。

    推薦理由:這場財報電話會也透露 Nvidia 對 neocloud 的採購承諾有明確條件,可從中看出公司支援這類業者的資金界線。

  13. Dev.to Top Tech83

    輝達執行長黃仁勳立即離任,董事會將評估內外部接班人選

    輝達執行長黃仁勳立即離任後,由財務長 Colette Kress 暫代執行長,董事會將從內部和外部人選中挑選正式接班人。董事長表示,公司營運、客戶承諾和產品規畫預計不受影響。文章整理了外部人選 Charlie Kawwas 和 Johny Srouji,以及內部人選 Ian Buck 和 Jonah Alben 的經驗;外部人選可能帶來不同管理方式,內部人選則較熟悉公司產品與客戶。接班安排將考驗輝達能否在交接期間維持出貨、客戶計畫和產品開發。

    推薦理由:輝達的接班安排牽動晶片出貨、客戶承諾與產品規畫,文中整理內外部人選各自的經驗與可能面臨的挑戰。

  14. Dev.to Top Tech76

    Kumo Tabular 評測:NVIDIA 如何讓模型不經訓練就能預測表格資料

    處理表格資料通常得先整理資料、挑模型,再反覆訓練和調整;Kumo Tabular 想省下這些步驟。它把已標記的資料列當成例子,直接預測其他資料列,不必用手上的資料訓練模型。文章提到,Kumo Tabular-L 在八項表格基準測試中排名第一,並在部分測試中比其他表格模型預測得快。它適合快速建立基準,或一次試很多資料集;若是大型、重視低延遲且使用 CPU 的正式服務,XGBoost 和 LightGBM 仍是有力選擇,因為 Kumo Tabular 需要 GPU,記憶體用量也會隨參考資料列增加。

    推薦理由:文章比較 Kumo Tabular 與傳統表格模型的適用情境,說明免訓練推論在快速建立基準與多資料集實驗時的價值。

11月18日週三
  1. aihot71

    Nvidia 停止向中國出貨 H200 AI 晶片

    Nvidia 原本取得美國政府批准,可以向中國銷售 H200 AI 晶片,現在卻宣佈停止出貨。臨時執行長 Colette Kress 在財報電話會上表示,公司業績預測不再包含獲準銷往中國的 Hopper 資料中心產品,但沒有說明停賣原因。路透社先前報導,約 600,000 顆 H200 晶片滯留香港,因為北京尚未批准大規模進口。報導也提到,中國正尋求降低對美國科技的依賴。

    推薦理由:報導整理了 H200 對中國出貨受阻的背景,包括美國批准後,北京仍未核准大規模進口,以及 Nvidia 停止出貨的決定。

  2. NVIDIA Newsroom Press Releases76

    NVIDIA 推出 RTX Spark 小型桌機,可在本機執行 AI 模型與創作工作

    想在本機跑 AI 模型、處理創作工作,又不想讓筆電一直忙著執行任務,可以考慮專用桌機。ASUS、Dell 和 MSI 的 NVIDIA RTX Spark 小型桌機已開賣,搭載最多 128GB 共用記憶體,可在本機執行支援的模型、AI 助理、圖片與影片生成,也能微調模型。NVIDIA 表示,在本機處理程式碼和檔案可避免這些工作產生雲端 API 費用;桌機也能在筆電外出時繼續執行常駐 AI 助理和排程任務。文中另介紹 Adobe、Blender 和 ComfyUI 等創作工具在 RTX Spark 上的更新。

    推薦理由:RTX Spark 桌機把本機模型、常駐 AI 助理與創作工具放在同一臺電腦,文中也列出記憶體規格與適用工作流程。