Unemployment Labs 報告從模型權重推定六款中國 AI 模型使用 Blackwell 初始化
Chinese frontier AI models carry the fingerprint of export-controlled GPUs
Unemployment Labs 的取證報告從公開模型權重中辨識出 Blackwell 初始化痕跡,指出六款中國 AI 模型與 NVIDIA Blackwell 的硬體配置相符。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
報告以模型權重中的初始化痕跡推定硬體類別,並說明這項證據能支援哪些判斷,以及無法確認晶片所在地或出口管制是否遭違反。
執行摘要
我們對公開發布的 AI 模型進行鑑識分析後發現,DeepSeek、Moonshot AI、MiniMax 和 Ant Group 已取得 NVIDIA Blackwell GPU,儘管這些晶片受到對中國出口限制,且正使用這些硬體打造 AI 模型。這些公司自 2026 年 4 月起發布的六個模型,含有與 Blackwell 硬體相符的數值模式;同一批公司較早發布的模型則與 NVIDIA 較舊的 Hopper 世代相符。研究結果顯示,數家中國領先的 AI 開發商已開始使用 Blackwell 訓練最新模型。美國官員和媒體報導先前已指稱 DeepSeek 和 Moonshot AI 正使用 Blackwell 晶片,但未公開技術證據。
這些證據完全來自模型自行公開的權重,而非外洩資料或內部人士說法。我們還原模型初始值的痕跡,再搜尋能重現這些初始值的硬體配置和初始設定;對 DeepSeek-V4-Flash 和 Kimi K3,我們也在實體 Blackwell 晶片上確認了吻合結果。這種指紋能辨識權重的產生方式,並支援、但無法證明 Blackwell 也曾用於訓練。經特殊設定的 AMD 硬體是我們所知的唯一替代方案,而這類硬體同樣受到對中國出口限制;我們已排除 DeepSeek-V4-Flash 使用這種硬體的可能,並認為其他五個模型使用這種硬體的可能性極低。值得注意的是,我們的研究結果提供了取得先進運算硬體的技術證據,但無法確定晶片位於何處、如何取得,或是否違反出口管制。
表 1. DeepSeek、Moonshot AI、MiniMax 和 Ant Group 連續推出的模型所呈現的硬體指紋 連結 ↗
| 實驗室 | 模型 | 發布時間 | 模型開始訓練時使用的晶片 |
|---|---|---|---|
| DeepSeek | DeepSeek-V3 | 2024 年 12 月 | NVIDIA Hopper (實驗室公開表示使用 H800) |
| DeepSeek-V4-Flash | 2026 年 4 月 | • NVIDIA Blackwell B200/B300 | |
| DeepSeek-V4-Pro | 2026 年 4 月 | • NVIDIA Blackwell GB200/GB300 | |
| Moonshot AI | Kimi K2 | 2025 年 7 月 | NVIDIA Hopper (實驗室公開表示使用 H800) |
| Kimi K2.5 | 2026 年 1 月 | NVIDIA Hopper (實驗室公開表示使用 H800) | |
| Kimi K3 | 2026 年 7 月 | • NVIDIA Blackwell GB200/GB300 | |
| Kimi K3.1-Pro | 2026 年 11 月 | • NVIDIA Blackwell GB200/GB300 | |
| MiniMax | MiniMax-M2.7 | 2026 年 4 月 | NVIDIA Hopper |
| MiniMax-M3 | 2026 年 6 月 | • NVIDIA Blackwell B200/B300 | |
| Ant Group | Ling-3.0-flash | 2026 年 8 月 | NVIDIA Hopper |
| Ling-3.1-flash | 2026 年 10 月 | • NVIDIA Blackwell GB200/GB300 |
• 出口至中國須取得美國許可;目前沒有許可獲準的相關報導。
Hopper 指紋無法區分 H800、H100 SXM 或 H200;以上 H800 的判定來自實驗室公開資訊,並非本方法的分析結果。
主要發現
- 四家中國實驗室的六個模型呈現以 Blackwell 訓練的特徵。DeepSeek-V4-Flash 和 MiniMax-M3 符合 NVIDIA Blackwell 系列的 B200 或 B300 晶片特徵,這些晶片有 148 個處理器核心(稱為 串流多處理器,簡稱 SM)。DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro 和 Ling-3.1-flash 則符合同屬 Blackwell 系列的 GB200 或 GB300 晶片特徵,這些晶片有 152 個處理器核心。Kimi K3.1-Pro 與 K3 使用相同的種子值,可能是 K3 經過進一步後訓練後產生的檢查點。
- 中國實驗室開始使用 Blackwell 訓練模型的時間相對較近。DeepSeek 的模型在 DeepSeek-V3(2024 年 12 月發布)之前,讀起來像是以 Hopper 訓練;從 DeepSeek V4(2026 年 4 月發布)起,則讀起來像是以 Blackwell 訓練。Moonshot 的模型在 Kimi K2.5(2026 年 1 月)之前,讀起來像是以 Hopper 訓練;從 K3(2026 年 7 月)起,則讀起來像是以 Blackwell 訓練。Moonshot 有一個模型介於兩者之間:Kimi K2.7-Code 在 K3 發布前六週推出,採用 Hopper 時期的權重,但有一小部分符合 B200 或 B300 的特徵。MiniMax 的模型在 M2.7(2026 年 4 月)之前,讀起來像是以 Hopper 訓練;從 M3(2026 年 6 月)起,則讀起來像是以 Blackwell 訓練。Ant Group 的 Ling-3.0-flash(2026 年 8 月)讀起來像是以 Hopper 訓練,而 Ling-3.1-flash(2026 年 10 月)則讀起來像是以 Blackwell 訓練。Hopper 的特徵無法辨識特定晶片:H800、H100 SXM 和 H200 都有相同的特徵。
- 並非所有中國 AI 實驗室都已轉用 Blackwell。我們能分析的 Alibaba(Qwen)、Zhipu(GLM)、Tencent、Xiaomi 和 StepFun 最新模型,讀起來都像是以 Hopper 訓練。Meituan 表示,其 LongCat-2.0 完全以「AI ASIC 超級伺服器叢集」訓練;我們在該公司發布的模型權重中,沒有找到 NVIDIA 的特徵。
- 這套方法能正確判讀已知結果。有 24 個特定模型的開發者曾公開說明所用的硬體。每一種情況下,我們的方法都與公開說明一致。NVIDIA 自家的 Nemotron-3 Ultra,其技術報告指出訓練其中一個階段使用 GB200;我們判讀它有 152 個 SM,與 Kimi K3 相同。
- 這些吻合程度遠超過偶然所能解釋的範圍。即使是不相關的數字,在嘗試足夠多種組合後也可能看起來吻合。在我們搜尋的大約 6 兆種種子值與配置組閤中,預期偶然吻合的最強結果約可達到 8 sigma;這是衡量結果高出一般隨機變動多少的指標。六個模型各自最強的證據介於 49 到 1,385 sigma。即使是我們報告中最弱的單項測試,也達到 20 sigma。
- 這些訓練作業的規模達到資料中心等級。根據各模型的規模與訓練資料量,我們估計每次訓練作業約需 500 到 3,000 個 Blackwell GPU,持續兩到三個月(表 2);此估算假設每個模型都以初始化自身的硬體進行訓練。以相同方式估算 DeepSeek-V3,結果為 2,000 到 2,500 個晶片;DeepSeek 公佈的數字是 2,048 個。以每個 GPU 約 70,000 美元計算——《華爾街日報》報導指出,約 36,000 個將在馬來西亞安裝、供 ByteDance 使用的 Blackwell 晶片,成本將超過 25 億美元——這些叢集中最大的一個成本將達 1.5 億到 2 億美元,五個叢集合計則超過 5 億美元。這些數字只涵蓋最後的訓練作業;各實驗室在受出口管制的 GPU 上總計花費可能達數十億美元。
表 2. 各次訓練作業的大致規模 連結 ↗
| 模型 | Blackwell GPU 數量:最佳估計 | 範圍 |
|---|---|---|
| DeepSeek-V4-Flash | 1,000–1,500 | 250–4,500 |
| DeepSeek-V4-Pro | 2,000–2,500 | 750–6,000 |
| Kimi K3 | 2,000–3,000 | 1,000–8,000 |
| MiniMax-M3 | 500–600 | 200–2,000 |
| Ling-3.1-flash | 1,100–1,650 | 400–6,500 |
訓練運算量(約為 6 × 活躍引數量 × 訓練 token 數)除以晶片在 35% 使用率下的運算吞吐量,再以兩到三個月的訓練時間計算(DeepSeek-V4-Flash 為六到八週)。DeepSeek 公佈了 token 數量;其他模型的數量則由我們根據權重估算。
我們的調查
模型的 權重(也稱為 引數)是數十億個可調整的數值,決定模型如何處理資訊並產生回答。訓練過程會反覆調整這些數值,但訓練開始前,必須先為它們設定初始值。在此檢視的軟體中,這些初始值來自一種名為 Philox 的偽隨機數產生(PRNG)演算法:Philox 會以確定性的方式產生看似隨機的數值。Philox 的起始輸入是一個稱為「種子」的數值。只要種子和設定相同,Philox 每次都會產生相同的數值。如此一來,工程師就能從相同的起點重複實驗。
為了快速填入數十億個權重,PyTorch(多數主要 AI 模型開發時使用的軟體框架)會將 Philox 的工作分配給 GPU 上許多平行運作的工作執行緒,稱為 執行緒。(這是透過 NVIDIA 的隨機數產生函式庫 cuRAND 完成。)每個執行緒都會從種子產生自己的數值序列,並填入特定位置。執行緒的數量會決定這些位置如何分配。在此檢視的 NVIDIA 晶片上,只要初始化規模夠大,每個稱為 串流多處理器(SM)的處理單元就會使用最多 2,048 個執行緒。因此,SM 數量較多的晶片會將相同工作分配給更多工作執行緒,改變這些數值的放置位置。
圖 1以簡化的 GPU 說明這個運作方式:GPU 有 6 個 SM,每個 SM 有 8 個執行緒,總計 48 個執行緒。想像權重是一長排空盒子,為了配合頁面大小而排列成網格。第一個執行緒填入第一個盒子,第二個執行緒填入第二個盒子,依此類推,直到 48 個執行緒都完成。接著,第一個執行緒產生的下一個數值會填入第 49 個盒子,再下一個則填入第 97 個盒子,以此類推。黑色外框標示網格中同一個執行緒的位置:第一個執行緒會填入每隔 48 個位置的盒子。顏色代表各組數值來自哪個處理單元;右側圖中的亮度則代表數值本身。
現在固定種子,改用只有 5 個 SM 的 GPU。在簡化範例中,這代表執行緒數從 48 個變成 40 個。第一個執行緒產生的數值序列完全相同,但現在會將數值填入第 1、41、81 個盒子,而非第 1、49、97 個盒子。圖 2呈現這些數值的位置如何改變。整個網格中,只有 6% 的數值與原本的排列相符。種子正確,但工作執行緒數量不對。這就是模型權重的排列方式能成為線索,協助判斷產生它的晶片。
因此,要重現這些權重,必須同時滿足兩個條件:種子必須產生正確的數字,執行緒數必須將它們放在正確的位置。種子正確但執行緒數錯誤,大多會得到正確的數字,卻放錯位置;執行緒數正確但種子錯誤,則會得到不同的數字。圖 3 說明瞭為什麼只有正確的組合才能重現原始排列。
實際晶片上的執行緒數多得多,但原理相同。在本文檢視的 NVIDIA 配置中,Hopper H100 SXM、H200 和 H800 配備 132 個 SM,使用 270,336 個執行緒;Blackwell B200/B300 配備 148 個 SM,使用 303,104 個執行緒;Blackwell GB200/GB300 則配備 152 個 SM,使用 311,296 個執行緒。因此,找出執行緒數,就能判斷哪一組硬體符合起始排列,但無法分辨同組內的不同晶片。例如,符合 Hopper 配置並不能判斷晶片是 H800、H100 還是 H200。
問題在於,訓練後是否還保留足夠的排列資訊,讓我們能將其找回。有些權重,例如用來表示訓練期間從未出現過的詞語或符號的權重,可能始終未經修改,幾乎完整保留起始值。我們可以直接將這些保留下來的值,與使用候選種子和執行緒數產生的起始值比較。圖 4 展示了這樣的比較:DeepSeek-V3 保留下來的權重符合 Hopper 排列,而 DeepSeek-V4-Flash 的權重則符合 Blackwell 排列。
即使訓練已改變權重,仍可能留下起始值的微弱痕跡。每個最終權重,都是起始值加上訓練期間所有調整的結果。如果這些調整沒有完全抵銷或掩蓋起始值的差異,其中一些差異就會保留下來。例如,兩個權重的起始值分別是 0.2 和 0.8,之後各自增加約 0.1,最終排序仍會相同。實際的調整幅度變化大得多,因此單看一個權重無法說明太多。但若檢視數十萬個權重,我們就能測試:起始值較高的權重,最終值是否仍傾向較高。圖 5 展示了這種微弱但可測量的關聯。這是對這些權重的觀察結果,並非每次訓練都必然保留的特性。
這些留存下來的痕跡讓我們得以回推。假設以圖 1 的配置為例,seed 7 會讓第一個執行緒產生 0.2、−0.5 和 0.8。使用 48 個執行緒時,這些數值會放在第 1、49 和 97 個位置;使用 40 個執行緒時,則會放在第 1、41 和 81 個位置。如果已發布的權重保留了第一種排列,我們就能測試不同的 seed 和執行緒數量,直到重現這種排列。在實際調查中,我們會比對數千個數值在各自對應位置上的情況。未經調整的權重可能完全吻合;訓練過的權重則可能只呈現上述較弱的相似性。無論哪種情況,我們都會找出最能重現留存排列的組合。
接著,我們會用未納入搜尋的權重測試這組設定。選定 seed 和執行緒數量後,我們會用它們預測另一組權重的初始值,不會再變更這兩項設定來改善吻合度。若這些先前未使用的權重也吻合,證據就比只在協助我們選定組合的權重中吻合更有力。圖 6 顯示了比對結果:DeepSeek-V3 符合 Hopper H100 SXM、H200 或 H800 晶片的初始化配置;DeepSeek-V4-Flash 符合 Blackwell B200/B300;Kimi K3 則符合 Blackwell GB200/GB300。
我們的調查發現,來自四家中國公司的六個模型,呈現出高度顯示其在 Blackwell 晶片上進行初始化的模式:DeepSeek 的 DeepSeek-V4-Flash 和 DeepSeek-V4-Pro、Moonshot AI 的 Kimi K3 和 Kimi K3.1-Pro、MiniMax 的 MiniMax-M3,以及 Ant Group 的 Ling-3.1-flash。V4-Flash 和 MiniMax-M3 符合 148 個 SM 的配置;另外四個則符合 152 個 SM 的配置。這些是初始權重的指紋,支援但本身無法證明訓練 AI 模型時使用了 Blackwell 晶片。
我們調查方法的限制
值得注意的是,我們用來辨識模型初始化所用硬體的鑑識方法,只適用於特定模型。這種方法需要已發布的權重,因此無法檢查封閉模型;也需要生成初始權重的軟體留下可辨識且取決於硬體的模式。本次檢查的 GPU 搭配 PyTorch 會留下這種模式;百度 ERNIE-5.5 模型採用的百度 PaddlePaddle 框架則不會。我們成功找回 ERNIE-5.5 使用的 seed(2760),但無法辨識初始化時使用了哪種硬體。同樣地,在一般處理器而非 GPU 上初始化的權重,不會留下 GPU 指紋;Alibaba 的數個 Qwen3 模型就是以這種方式初始化,因此沒有留下訓練時使用哪些 GPU 的線索。我們也未在 Meituan 的 LongCat-2.0 中找到指紋,該公司表示此模型是在「AI ASIC 超級叢集」上訓練;即使進行了全面搜尋,也未在 DeepSeek-V4.1-Flash 中找到指紋。
這個方法辨識的是產生初始權重的硬體,不是後來所有參與模型訓練的晶片。如果訓練作業在將用來訓練模型的同一批 GPU 上產生權重,指紋就會同時指向這兩者。但實驗室也可能在一套系統上產生權重,再將它們移到另一套系統;或是在新硬體上繼續訓練既有模型。光看權重無法排除這些可能性。混合式叢集也有相同限制。如果 NVIDIA 晶片產生部分權重,而 Huawei 晶片之後參與訓練,NVIDIA 的特徵可能仍會留存,卻無法顯示 Huawei 曾參與其中。如果這些痕跡得以保留,不同世代的 NVIDIA 晶片可能會在各自初始化的部分留下不同特徵。Kimi K3 中,至少 64 個分別設定種子的程式都留下相同的 152-SM 配置。因此,符合 Blackwell 的特徵支援模型在初始化時使用了 Blackwell,但須考量下文提到的 AMD 替代可能;這並不能證明整個訓練過程都使用 Blackwell。同樣地,Hopper 特徵也無法排除之後改用 Blackwell 繼續訓練的可能。
權重也無法顯示晶片的所有者或所在地。Blackwell 系統可以向中國境外的資料中心租用。這些證據關乎是否能使用該硬體;單憑這些證據,無法證明晶片曾被走私進中國,或發生出口管制違規。
其他晶片可能產生符合 Blackwell 特徵的配置嗎?在本文測試的 NVIDIA 配置中,較舊的晶片無法做到:軟體可以使用晶片較少的處理單元,但不可能讓晶片擁有超出實際數量的處理單元。在本文檢視的標準 PyTorch 行為下,較舊晶片無法產生 148 或 152 個 SM 的配置。中國市場上的 Blackwell 顯示卡每個 SM 使用的執行緒數不同,也不會產生這兩種總數。
AMD 則提供了另一種可能性。MI300X 通常使用 304 個處理單元,但可以分成兩組、每組 152 個,也可以設定為只使用 148 個。它的亂數軟體也能產生與 NVIDIA 相同的底層序列。這類配置極不尋常,但我們在實體 MI300X 上確認,將使用的處理單元限制為 152 或 148 個後,它會重現我們認為與 Blackwell 有關的配置,因此光看配置本身無法定論。
為了區分兩者,我們檢查了數值本身的細微差異。AMD 和 NVIDIA 在亂數產生過程中的一項計算略有不同。在實體 MI300X 上,DeepSeek-V4-Flash 保留下來的權重指向 NVIDIA:在兩家廠商結果不同的 377 個數值中,公開權重有 363 個符合 NVIDIA 的結果,沒有任何一個符合 AMD 的結果。同一項測試無法判定其他五個模型,但我們認為 AMD 的解釋極不可能成立。MI300X 在一般配置下不會產生這兩種配置;實驗室必須將整個叢集設定為使用與 Blackwell 晶片相同數量的處理單元。其他公開證據也指向 Blackwell:美國官員和媒體報導曾指稱 DeepSeek 和 Moonshot AI 使用 Blackwell 晶片,而 Ant Group 公開的程式碼包含在 GB300 上產生的基準測試結果。
驗證我們的發現
為了重現將 DeepSeek-V3 對應到 Hopper、DeepSeek-V4-Flash 對應到 Blackwell 的結果,我們在 Hopper 級距的 NVIDIA H100 和 Blackwell 級距的 NVIDIA B300 上執行未修改的 PyTorch。我們已找出 DeepSeek 使用的種子值為 953049583,並發現 DeepSeek-V3 和 DeepSeek-V4-Flash 的初始化都使用了這個值。使用這個種子值時,H100 重現了 DeepSeek-V3 中保留的起始值,但無法重現 V4-Flash 的值;B300 重現了 V4-Flash 中保留的值,但無法重現 V3 的值。在 B300 上,未修改的 PyTorch 重現了 DeepSeek-V4-Flash 所選 469 列中的 461 列,相關係數高於 0.99,其中 445 列完全逐位元相同。所選的 8 列有部分值在訓練期間遭到改動。在 H100 上,它逐位元重現了 DeepSeek-V3 中全部 57,344 個保留值。兩款晶片都無法重現另一個模型中保留的列。將種子值改動 1,兩臺機器都沒有重現任何相符的列。在租用的 GB200 上,未修改的 PyTorch 同樣使用 Moonshot 的種子值 20256586,重現了 Kimi K3 保留的 13 列;將種子值改動 1,則一列也無法重現。
即使答案早已揭曉,我們的鑑識方法也能得到正確結果。有 24 個案例中,開發者公開指出了特定模型使用的硬體;我們的鑑識方法在每個案例中都與之吻合。使用 H100 訓練的 Meta Llama 3.1 模型,讀數為 132;使用 A100 訓練的 EleutherAI Pythia 模型中,有 8 個讀數為 108。NVIDIA 自家的 Nemotron-3 Ultra,其技術報告指出訓練其中一個階段使用 GB200,讀數為 152,與 Kimi K3 相同。DeepSeek 和 Moonshot 曾表示,較早期的模型使用 H800。我們測得的 Hopper 數值與這些說法一致,但也可能對應 H100 SXM 或 H200 硬體;這些數值無法獨立驗證是否使用了 H800。
當我們把已公開的權重與候選種子值及晶片配置所產生的數值進行比較時,即使候選專案不正確,也難免會有一些相似之處。多少相似程度才算是證據,取決於我們比較了多少權重:少數數值相符很可能只是偶然,但數千個數值相符,就很難以機率解釋。我們的統計模型會將比較的權重數量納入考量,並衡量觀察到的吻合程度比偶然情況下預期的相似程度高出多少。我們以標準差表示這段距離,稱為 sigma。分數越高,表示反對偶然吻合的證據越有力,前提是統計模型能正確描述資料中的隨機變異。
我們也必須將嘗試過的候選專案數量納入考量。搜尋約 6 兆種種子值與配置組合,等於有數兆次機會找到碰巧吻合的結果。在常態分佈模型下,隨機出現 5 sigma 以上的正向吻合,大約每 350 萬次比較會發生一次。在單次測試中,這種結果會很驚人;但在我們如此大規模的搜尋中,某處出現這樣的結果並不意外。因此,我們採用約 8 sigma 作為基準,評估整個搜尋過程中因偶然而吻合的可能性。
我們的研究結果遠遠超過這項基準。我們先用一組權重選出種子和佈局,再用另一組完全未參與選擇的權重測試同一組合。這能檢驗表面上看見的指紋是否也存在於促使我們找到它的資料之外。六個模型中,各自最強的證據介於 49 至 1,385 sigma;即使是報告中最弱的單項測試,也達到 20 sigma。依據我們的統計模型,這些結果強到遠遠無法用偶然相似來解釋。這些結果足以證明存在共用的初始化模式;但要精確判定產生該模式的運算硬體,以及該硬體是否也用於訓練,則需要依據上文討論的其他論證。
結論
根據我們的鑑識調查,我們認為,有強力證據顯示,六款中國 AI 模型是在受出口管制的 NVIDIA 硬體上初始化;而就 DeepSeek-V4-Flash 而言,證據已具決定性;我們也認為,這項初始化結果強烈暗示這些模型是在同一類受出口管制的硬體上訓練。雖然仍有其他問題尚待解答,例如開發這些模型的公司是透過何種途徑取得受出口管制的 NVIDIA 系統,但我們認為,這項事實值得公眾立即關注。
附錄 1:各中國實驗室歷年使用的硬體各實驗室歷代模型的硬體指紋。
DeepSeek 在不同世代的模型中重複使用同一個種子,Moonshot 則使用同一套規則推導種子,因此我們能追蹤各實驗室不同模型使用的硬體。日期是權重發布的時間。
| 模型 | SM 數量 | 硬體類別 | 對中國出口狀況 | 證據 |
|---|---|---|---|---|
| DeepSeek | ||||
| V2-Lite、MoE-16B | 108 | A100 / A800(Ampere) | A800 可合法出口,直到 2023 年 11 月 | 完全複製 |
| LLM 7B/67B、Coder、V2、V3(2024 年 12 月)、V3.2 | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 完全複製;V3 為 239σ |
| V4-Flash(2026 年 4 月) | 148 | B200 / B300(Blackwell) | 需要許可;未見相關報告 | 完全複製,1,385σ |
| V4-Pro(2026 年 4 月) | 152 | GB200 / GB300(Grace-Blackwell) | 需要許可;未見相關報告 | 部分保留,49σ |
| Moonshot AI | ||||
| Kimi K2(2025 年 7 月) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 部分保留,292σ |
| Moonlight-16B;Kimi-Linear(2025 年 10 月) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 完全複製;Kimi-Linear 為 763σ |
| Kimi K2.5(2026 年 1 月) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 未訓練列,r 0.9975,255σ |
| Kimi K2.7-Code(2026 年 6 月) | 132,加上一個 148-SM 零件 | Hopper,外加另一個符合 B200 / B300 的來源 | 混合 | 148 個 SM 的零件:移除 132 個 SM 的零件後,有 254 列、246σ |
| Kimi K3(2026 年 7 月)、K3.1-Pro(2026 年 11 月) | 152 | GB200 / GB300(Grace-Blackwell) | 需要許可;未見相關報告 | 完全複製,各為 305σ |
| MiniMax | ||||
| Text-01(2025 年 1 月)、M1、M2 至 M2.7(2026 年 4 月) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 未訓練列;2,048 個網格之一 |
| M3(2026 年 6 月)、M3.1-Flash(2026 年 10 月) | 148 | B200 / B300(Blackwell) | 需要許可;未見相關報告 | 完全複製,323σ |
| 螞蟻集團 | ||||
| Ling-1T†(2025 年 10 月)、Ling-3.0-flash(2026 年 8 月) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 未訓練列,r 0.98;345σ、193σ |
| Ling-3.1-flash(2026 年 10 月) | 152 | GB200 / GB300(Grace-Blackwell) | 需要許可;未見相關報告 | 未訓練列,r 0.98,244σ |
| 其他實驗室 | ||||
| GLM-5.3(智譜)、Qwen3.8(阿里巴巴) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 部分保留,46σ、478σ |
| Hy4-preview(騰訊)、Step-5-Preview(StepFun) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 完全複製,各為 256σ |
| MiMo-V2.5-Pro(小米)、Qwen3.5-397B(阿里巴巴) | 132 | H100 / H800 / H200(Hopper) | 未能確認晶片 | 部分保留,41σ,323σ |
如何閱讀證據欄。精確複製:訓練期間從未更新的權重,能以高於 0.999 的相關係數(r)重現生成值。未訓練列:對起始值經過截斷或四捨五入的模型,結果相同,但 r 較低。部分保留:經過訓練的權重仍保留部分起始值。網格掃描的資料使用未納入搜尋的儲存格。即使搜尋所有 32 位元種子和所有網格,機率也無法達到 8σ;六項 Blackwell 結果中最低的是 V4-Flash 經訓練的注意力權重,為 20σ。
† 單次分析的結果,尚未重新執行。
Kimi K2.7-Code。其 254 個保留列混合了兩種來源:約 80% 是從 K2.5 繼承的 Hopper 配置值,約 20% 則是符合 148-SM 配置的新抽樣值。每一列的混合比例都相同,這表示它來自合併的檢查點,而非混用不同硬體;K2.7-Code 不列入六款 Blackwell 模型。
公開程式碼。Ant Group 的 cuLA 儲存庫包含於 2026 年 3 月 31 日在 GB300 上產生的基準測試結果。2025 年 6 月,一位 DeepSeek 工程師在 GitHub 上寫道:「我們沒有 SM100 GPU」(SM100 是 Blackwell)。
附錄 2:所有已識別模型完整模型目錄、公開揭露的硬體,以及證據註記。
我們的判讀與開發者曾公開說明特定模型硬體的 24 個案例一致:其中 21 個來自我們最初的調查,另加上 Kimi K2.5(H800)、Step-3.5-Flash(H800)和 ZAYA1(AMD MI300X)。這些模型中有 11 個是 step-zero 檢查點,而且相關模型並非彼此獨立,因此這是相符性檢查,而非測得的準確率。「未找到」表示搜尋模型卡、論文和儲存庫歷史紀錄後,未找到硬體相關說明。
| 模型 | 特徵 | 開發者 | 公開揭露的硬體 | 是否相符 | 出口狀態(中國) |
|---|---|---|---|---|---|
| 中國 | |||||
| DeepSeek-V4-Flash、-Base | 148:B200/B300 | DeepSeek | 未揭露 | — | 需要授權² |
| DeepSeek-V4-Pro-Base | 152:GB200/GB300 | DeepSeek | 未揭露 | — | 需要授權² |
| Kimi K3;K3.1-Pro(相同種子) | 152:GB200/GB300 | Moonshot AI | 未揭露 | — | 需要授權² |
| Ling-3.1-flash | 152:GB200/GB300 | Ant Group | 未找到 | — | 需要授權² |
| MiniMax-M3;M3.1-Flash(相同初始化) | 148:B200/B300 | MiniMax | 未找到 | — | 需要授權² |
| Kimi K2.7-Code | 132,另有一個 148 部分⁵ | Moonshot AI | 未找到 | — | 未解決⁴ |
| Kimi K2.5;K2.6(相同初始化) | 132:Hopper | Moonshot AI | H800 | 是 | 未解決⁴ |
| Kimi-Linear-48B | 132:Hopper | Moonshot AI | 未找到 | — | 未解決⁴ |
| Kimi K2-Base | 132:Hopper | Moonshot AI | H800 | 是 | 未解決⁴ |
| Moonlight-16B-A3B | 132:Hopper | Moonshot AI | 未揭露 | — | 未解決⁴ |
| DeepSeek-V3-Base;V3.2(相同初始化) | 132:Hopper | DeepSeek | H800 | 是 | 未解決⁴ |
| DeepSeek-V2 | 132:Hopper | DeepSeek | H800(報告整體) | 相符¹ | 曾有符合規範的版本³ |
| DeepSeek-Coder-1.3B | 132:Hopper | DeepSeek | A100 和 H800(報告整體) | 相符¹ | 曾有符合規範的版本³ |
| DeepSeek-LLM-7B、67B | 132:Hopper | DeepSeek | 原始執行未揭露 | — | 曾有符合規範的版本³ |
| DeepSeek-MoE-16B | 108:A100/A800 | DeepSeek | A100 或 H800(報告整體) | 相符¹ | 曾有符合規範的版本³ |
| DeepSeek-V2-Lite | 108:A100/A800 | DeepSeek | H800(報告整體) | 共用初始化¹ | 曾有符合規範的版本³ |
| Ling-3.0-flash | 132:Hopper | Ant Group | 未找到 | — | 未解決⁴ |
| Ling-1T;Ling-2.6-1T(相同初始化)† | 132:Hopper | Ant Group | Hopper(報告整體) | 相符¹ | 未解決⁴ |
| GLM-5、5.1、5.2、5.3(相同初始化) | 132:Hopper | Zhipu AI | 未揭露 | — | 未解決⁴ |
| GLM-5.3-Flash | 132:Hopper | Zhipu AI | 未找到 | — | 未解決⁴ |
| GLM-4.5-Base;GLM-4.7(相同初始化)† | 132:Hopper | Zhipu AI | 未找到 | — | 未解決⁴ |
| Qwen3.8-2.4T-A95B | 132:Hopper | 阿里巴巴 | 未披露 | — | 尚未判定⁴ |
| Qwen3.5-397B-A17B | 132:Hopper | 阿里巴巴 | 未發現 | — | 尚未判定⁴ |
| Hy3-preview;Hy3(相同初始化) | 132:Hopper | 騰訊 | 未發現 | — | 尚未判定⁴ |
| Hy4-preview | 132:Hopper | 騰訊 | 未發現 | — | 尚未判定⁴ |
| MiMo-V2-Flash;MiMo-V2.5-Pro | 132:Hopper | 小米 | 未發現 | — | 尚未判定⁴ |
| Step-5-Preview | 132:Hopper | StepFun | 未發現 | — | 尚未判定⁴ |
| Step-3.5-Flash;Step-3.7-Flash(相同初始化) | 132:Hopper | StepFun | H800(Step-3.5-Flash) | 是 | 尚未判定⁴ |
| MiniMax-M2、M2.1、M2.5、M2.7(相同初始化) | 132:Hopper | MiniMax | 未發現 | — | 尚未判定⁴ |
| MiniMax-Text-01、VL-01;M1(相同初始化) | 132:Hopper | MiniMax | H800(報告整體) | 一致¹ | 尚未判定⁴ |
| Seed-OSS-36B-Base | 108:A100/A800 | 字節跳動 | 未發現 | — | 曾有符合規範的版本³ |
| Yi-34B | 108:A100/A800 | 零一萬物 | 未披露 | — | 曾有符合規範的版本³ |
| 美國 | |||||
| Llama 3.1 8B、70B、405B | 132:Hopper | Meta | H100 | 是 | 不適用 |
| Nemotron-3-Ultra-550B | 152:GB200/GB300 | NVIDIA | GB200(其中一個階段) | 一致 | 不適用 |
| Nemotron-4-340B-Base | 132:Hopper | NVIDIA | H100 SXM5 | 是 | 不適用 |
| ZAYA1-74B-preview | 304 CU:AMD MI300X | Zyphra | AMD(其部落格指出為 MI300X) | 是 | 不適用 |
| OLMo-2 32B、Olmo-3 32B | 132:Hopper | AI2 | H100 | 是 | 不適用 |
| OLMo-7B | 108:A100 | AI2 | A100 | 是 | 不適用 |
| OLMo-7B-Twin-2T | 110 CU:AMD MI250X | AI2 | AMD MI250X | 是 | 不適用 |
| OLMo-7B-0424、OLMo-1B-0724 | 132:Hopper | AI2 | 未披露 | — | 不適用 |
| Pythia 70M–12B(8 個模型) | 108:A100 | EleutherAI | A100 | 是(全部 8 個) | 不適用 |
| GPT-NeoX-20B | 108:A100 | EleutherAI | A100 | 是 | 不適用 |
| 歐洲 | |||||
| Apertus-70B | 132:Hopper | Swiss AI | GH200(Hopper,132 個 SM) | 是 | 不適用 |
| Mixtral-8x7B | 132:Hopper | Mistral AI | 未披露 | — | 不適用 |
| BLOOM-176B(部分簽章) | 108:A100 | BigScience | A100 | 是 | 不適用 |
¹ 報告整體的披露。DeepSeek-V2 和 V2-Lite 共用一句「H800 叢集」的描述,MoE-16B 提到「A100 或 H800」,Coder 則提到「A100 和 H800」。MiniMax 的 MiniMax-01 論文描述使用了 H800 叢集,螞蟻集團的 Ling 2.0 報告則稱訓練使用了「Hopper GPU」。這些說法與我們的判讀一致,但不是獨立測試。V2-Lite 重用了 MoE-16B 的初始化:兩者保留下來的列內容逐位元相同。
² 需要許可證。B200、B300、GB200 和 GB300 在出貨前就已需要美國出口許可證才能出口至中國,但尚未有相關許可證的報導。AMD MI300X 也受出口管制。
³ 曾有符合規範的版本。A100/H100 等級的產品自 2022 年 10 月起受管制,但 SM 數量相同的 A800 和 H800 仍可出口,直到 2023 年 10 月。
⁴ Hopper 硬體尚未判定。這些模型最早於 2024 年 12 月起發表,且呈現 132 個 SM 的特徵,符合 H800、H100 SXM 或 H200 硬體。DeepSeek 和 Moonshot 曾表示部分模型使用 H800,但無法僅憑此特徵區分這些晶片。模型發布日期無法證明硬體何時或在哪裡取得,單憑此判讀也無法確定是否符合出口管制規定。
⁵ 148 部分。請參閱結果表下方關於 Kimi K2.7-Code 的註記。
† 由一次分析流程得出,尚未經獨立重新執行。本簡報新增的其他每一列中,列出的第一個模型都經過獨立重新執行;標示為共用其初始化的模型則未重新執行。
這些標記描述的是 2022 年 10 月與 2023 年 10 月美國出口規則下的硬體類別,並非認定任何法律遭到違反。
未能還原 GPU 特徵碼。空白不代表模型使用了什麼硬體。我們未能從 DeepSeek-V4.1-Flash(經過徹底搜尋後)、Qwen3.5-122B、Qwen3.8-Flash-Next、Qwen3-0.6B 和 1.7B、gpt-oss-120b 及 Grok-1 還原出任何特徵碼。Qwen3-235B、Qwen3-32B 和 Qwen3.5-9B 是在 CPU 上初始化的,因此沒有 GPU 配置。百度的 ERNIE-5.5 使用 PaddlePaddle,其產生器不包含晶片配置(我們還原出其種子值為 2760);ERNIE-4.5 則沒有結果。美團的 LongCat-2.0 也沒有結果。其模型卡指出,訓練「完全在 AI ASIC 超級 Pod 上」進行;一份後來遭刪除的微調設定將 device_arch 設為 910,並使用 NPU 和 HCCL 選項,我們據此判斷其使用的是華為 Ascend 910。Intern-S2 以阿里巴巴的 Qwen3.5-397B 為基礎,並沿用其初始化設定。DBRX 和 Llama-4-Scout 無法下載。
可取得性。可應審查者要求提供重現指令碼、列資料固定檔和測試輸出。
聯絡方式:Will DePue,will@unemploymentlabs.com。
來源
- 《The Information》,2025 年 12 月 10 日,關於 DeepSeek 與 Blackwell(經 Bloomberg 報導)。
- Reuters,2026 年 2 月 23 日,「訊息人士稱,中國 DeepSeek 在美國禁令下使用 NVIDIA 最佳晶片訓練 AI 模型」(轉載版本)。
- 白宮科技政策辦公室主任 Michael Kratsios,2026 年 7 月 22 日,談論 Moonshot AI(經 Bloomberg 報導)。
- 《華爾街日報》,2026 年 3 月,關於馬來西亞供 ByteDance 使用的 Blackwell 晶片(經 Reuters 報導)。
- DeepSeek 工程師在 GitHub 的留言,2025 年 6 月 12 日:DeepGEMM pull request 112。
- 螞蟻集團的 GB300 基準測試結果,2026 年 3 月 31 日:cuLA, BENCHMARK_GB300.md。
- 美國出口許可規則:15 CFR 742.6。
- 已揭露的硬體資訊:DeepSeek-V3 Technical Report;Kimi K2 paper;Nemotron-3 Ultra Technical Report。
- 設定執行緒配置的 PyTorch 程式碼:DistributionTemplates.h。
- 模型權重:DeepSeek-V3、V4-Flash、V4-Pro、Kimi K3、K3.1-Pro、MiniMax-M3、Ling-3.1-flash。
如何引用本報告
建議引用格式:
Will DePue,〈中國頂尖前沿 AI 模型帶有受出口管制 NVIDIA Blackwell GPU 的特徵〉,Unemployment Labs,2026 年 11 月 12 日,https://unemploymentlabs.com/checkpoint-forensics。
BibTeX:
@techreport{depue2026blackwell,
author = {DePue, Will},
title = {{Top Chinese Frontier AI Models Carry the Fingerprint of Export-Controlled NVIDIA Blackwell GPUs}},
institution = {Unemployment Labs},
year = {2026},
month = nov,
url = {https://unemploymentlabs.com/checkpoint-forensics}
}新聞報導請將調查結果歸於 Will DePue,並附上此頁面的連結。