跳到正文
M億財富MEmoney(youtube.com)· M·· 5 天前品質評分58

遊戲顯示卡養出了 AI 帝國!GPU 憑什麼封神,為何科技巨頭又急著擺脫它?|《改變世界的半導體》EP1

遊戲顯示卡養出了 AI 帝國!GPU 憑什麼封神,為何科技巨頭又急著擺脫它?|《改變世界的半導體》EP1

重點導讀

NVIDIA從1999年GeForce 256定義GPU起,經CUDA與AlexNet將遊戲顯示卡推成AI算力核心,但記憶體牆與巨頭自研晶片正迫使GPU走向不再繪圖的陌生形態。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

NVIDIA 的 GPU 之所以能從遊戲配件變成 AI 時代的核心算力,是因為遊戲玩家與遊戲開發者先替它付了十幾年的研發帳,而 CUDA 把這批硬體鎖進了科研與 AI 的生態。這是《改變世界的半導體》第一集的主要論點,主持人 M 用約 27 分鐘走完 GPU 從 1990 年代 3D 加速卡到 2026 年資料中心主力晶片的整條路徑,並在後半段轉向一個更現實的問題:當微軟、Google、Meta 這些最有錢的客戶開始自研晶片、當「記憶體牆」成為瓶頸,GPU 的王座還能坐多久。節目對自研晶片、Cerebras、光計算、存算一體的討論佔了約三分之一,這部分與其說是產業預測,不如說是對 GPU 護城河的一次壓力測試。

M 是這檔節目的主持人,也是唯一的講述者,內容以敘事與類比為主(洗車道、炒菜時油鹽放哪裡、調料架),沒有引用外部訪談或財報電話會議。節目的價值在於把技術演進的因果鏈講清楚:哪個需求逼出了哪個設計,哪個設計又意外成了下一個時代的入場券。讀者若只關心 AI 算力競爭,可直接看第四、五、六節;若關心 GPU 的歷史成因,前三節是主線。

GPU 的誕生是為了替 CPU 卸下畫三角形的苦力活

1990 年代以前,電腦裡所有運算都歸 CPU 管,寫文件、算表格、跑系統都一樣。3D 遊戲出現後,這個分工撐不住了:螢幕上一輛線條流暢的跑車,在電腦眼裡是成千上萬個小三角形拼出來的,玩家一打方向盤,電腦就得瞬間重算這幾萬個三角形被挪到哪裡、哪些被遮住、光線照過去哪裡亮哪裡暗,再把顏色和材質貼上去。以每秒 60 幀計算,這套流程每秒要重跑 60 遍,而且路邊廣告牌、地上影子、前方對手全都要一起算。CPU 不是不會算這些數學題,但它是「大總管」,還要管作業系統、判斷車有沒有撞牆、對手怎麼超車,再把滿屏三角形塞給它就會卡死。

解法是分工。史丹佛出身的詹姆斯·克拉克(James Clark)在 1980 年代就做出專門算圖形的晶片,並創辦專業圖形大廠 SGI,好萊塢拍《侏羅紀公園》時那些恐龍 CG 畫面就是 SGI 的機器做的。東西好但價格貴,普通玩家不可能為了打遊戲搬一整套裝置回家。1990 年代中期,一群工程師成立 3dfx,做出一般人買得起的 3D 加速卡 Voodoo。

Voodoo 還不算真正的 GPU,因為它不能單獨當顯示卡用:電腦裡仍要插著原本的 2D 顯示卡,再用外接線在機箱後方把兩張卡串起來。這是刻意的取捨——把前半段算三角形位置的工作留給 CPU,自家加速器只專心做後半段塗色與貼材質,連平時看桌面、寫文件的 2D 功能都省掉,純粹為 3D 遊戲而生。經典遊戲《雷神之錘》裝上這張卡後,原本牆上一格一格像馬賽克的磚頭瞬間變得平滑細膩,玩家不必懂晶片引數,一眼就看出錢花得值。

一顆晶片吃掉前後兩段工作,GPU 才正式得名

玩家的胃口沒有止境。牆壁變清楚之後,又嫌人物腦袋像方盒子、建築邊緣不夠圓潤;要讓畫面更精細就得塞進更多三角形,結果後段塗色越來越快,前段 CPU 卻算不完三角形位置,來不及把資料餵給顯示卡。當時只有 200 多名員工的 NVIDIA 在 1999 年推出 GeForce 256,把算位置、算光線的前段工作連同後段塗色渲染全包進同一顆晶片,並冠上今天熟知的名字 GPU。《雷神之錘 3》的傳奇程式員卡馬克拿到卡後發現,原本設計的一萬個三角形根本不夠塞牙縫,立刻把畫質上限往上調,讓遠處敵人不再變成粗糙方塊小人,彎曲拱門也能做得圓滑自然。

真正的轉折是「開放許可權」。早期顯示卡像一條死板的自動洗車道,沖水、刷洗、吹乾的流程全被硬體鎖死,使用者只能微調引數,不能改變工作方式。遊戲開發者聯合起來逼顯示卡廠商開放許可權,NVIDIA 在 2001 年推出 GeForce 3,程式員可以自己寫程式碼決定畫面裡的點和畫素怎麼算,於是波光粼粼的湖面、隨風搖曳的草地、盔甲上的金屬反光與陰影,都能用自己寫的公式算出來。

階段代表產品分工方式關鍵限制
專業圖形SGI 機器專用硬體算圖形價格昂貴,玩家買不起
3D 加速卡3dfx VoodooCPU 算三角形位置,加速卡只負責塗色貼材質需與 2D 顯示卡串接,不能獨立使用
整合 GPUNVIDIA GeForce 256(1999)前後段全部納入同一顆晶片管線仍由硬體鎖死
可程式設計 GPUNVIDIA GeForce 3(2001)開發者可自寫著色程式仍需以圖形語言表達計算

科學家把數字偽裝成顏色,逼出了 CUDA

開放許可權後,盯上 GPU 的不只是遊戲公司。科研學者發現,畫圖本質上是對成千上萬個畫素同時做相似計算,而科學研究也常把同一套公式套用到海量資料上,GPU 天生適合平行計算。問題是顯示卡只懂畫圖、不懂數學公式。北卡羅萊納大學的研究者為了借顯示卡算矩陣乘法,想出「瞞天過海」的辦法:把數字偽裝成圖片裡深淺不同的顏色,騙顯示卡去做混色和貼圖,等顯示卡塗完顏色再把顏色讀回來、翻譯成數學答案。顯示卡那邊以為自己只是在畫畫,順手就把微積分和矩陣題解了。

這種做法太折磨人——物理學家或數學家為了算一道題,還得先學怎麼給遊戲貼紋理、調顏色。史丹佛的伊恩·巴克(Ian Buck)帶團隊做出翻譯軟體 Brook,讓研究人員只寫資料該怎麼處理,後臺自動轉換成顯示卡能懂的操作。NVIDIA 執行長黃仁勳(老黃)看準商機把巴克挖來,2006 年底推出 CUDA。M 指出,巴克單靠 CUDA 就足以名留半導體史,他還推動多項 NVIDIA 關鍵技術,目前擔任 NVIDIA 超大規模與高效能運算部門副總裁兼總經理。

光有軟體不夠,硬體也得改。以前的顯示卡是死板分工:一組人只管搭立體骨架,另一組只管塗色,遇到骨架複雜但塗色簡單的畫面,搭骨架的人累死、塗色的人閒著。NVIDIA 耗時 4 年、投入 4 億美元,在 2006 年底與 CUDA 一起推出 GeForce 8800 GTX,在硬體上把所有計算單元打通成「全能打工人」,哪裡有活就往哪裡撲。這張卡送進評測室後,部分測試效能直接達到上一代單芯卡的兩倍。從此程式員用熟悉的 C 語言就能指揮 GPU 算數,不必再假裝在畫圖。

M 特別澄清一個常見誤解:NVIDIA 當年做 CUDA 並不是預見了今天的大模型。他們最初瞄準的是找石油、生物模擬與金融分析的客戶。黃仁勳確實有遠見,想帶 GPU 走出遊戲大廳,但沒料到後面會有一場這麼大的 AI 風暴。

算力再強,搬不動資料就等於零

有了 CUDA 不等於程式搬上 GPU 就能起飛。2008 年一支做核磁共振(MRI)醫學影像的團隊就摔了一跤:同樣的資料用老辦法算要 23 分鐘,滿懷期待搬上 GPU 後,跑完一圈花了整整 54 分鐘。追查後發現,顯示卡有不少時間都花在等資料上,反覆要用的資料每次都得從顯示卡記憶體重新讀取,計算單元再快也得等它送過來。團隊把反覆要用的資料盡量留在晶片裡,再調整程式的計算方式,顯示卡連換都沒換,原本將近 1 小時的計算最後縮短到 1 分 06 秒。

這個案例定下了 GPU 的兩項結構性硬傷,M 說直到今天都還沒解決,而且越來越嚴重:一是不能讓它一直全力工作,二是資料搬運成為瓶頸。第二項在後面的 AI 時代被稱為「記憶體牆」。

同樣的邏輯也解釋了 GPU 在挖礦上的興衰。比特幣挖礦本質上不是破解密碼,而是不斷換一個隨機數字丟進固定公式撞大運,看誰先算出符合系統規定格式的結果就能拿走獎勵。這種純靠人海戰術、同時狂試幾十億次的活簡直為 GPU 量身定做,2010 年起大批遊戲顯示卡被買去挖礦。但 GPU 很快被 ASIC 取代——ASIC 是為比特幣演算法焊死電路的定製晶片,什麼都不幹、只算這一道題,效率把 GPU 按在地上摩擦。GPU 不是效率不高,而是它還得畫圖、做各種不同計算,裡面不少電路挖礦時根本用不上。

兩張遊戲顯示卡撞開了現代 AI 的大門

在礦工搶顯示卡的同一時期,另一群坐冷板凳的學者正試著教電腦認照片。對當年的電腦來說這非常難:小貓換個姿勢、光線暗一點、或鑽進草叢只露出半個腦袋,電腦當場就懵了。多倫多大學的辛頓(Geoffrey Hinton)教授研究神經網路,不教電腦死記硬背規則,而是餵大量照片讓它自己猜,猜錯就調整內部數字再繼續練。但模型要認出更複雜的東西就得做大,計算量跟著暴增,當時的算力跟不上,模型稍微大一點光等結果就得等上老半天,這條路在學術界坐了很多年冷板凳。

2012 年,辛頓和兩名學生帶著訓練出來的 AlexNet 參加全球頂級 ImageNet 影像識別大賽,餵了 120 多萬張圖片,一舉奪冠並把第二名遠遠甩在身後。最讓外界跌破眼鏡的是論文裡的硬體配置:撐起這個歷史性突破的不是價值上千萬的超級電腦,而是兩張普通玩家在電腦城就能買到的 GTX 580 遊戲顯示卡,插在房間的電腦裡跑了五六天。

為什麼偏偏是遊戲顯示卡與 AI 合得來?M 的解釋很直接:神經網路表面在認貓認狗,底層做的苦力活就是把幾千萬個數字不停相乘相加,而 GPU 為了算滿屏三角形與畫素,已經苦練十幾年的平行計算。遊戲玩家掏錢養大的硬體,加上黃仁勳鋪好的 CUDA 軟體,AI 時代就這樣開啟了。

這段歷史還有一個容易被忽略的細節:當年那張 GTX 580 只有 3GB 視訊記憶體,一張卡裝不下整個網路,團隊只能把模型劈成兩半分到兩張卡上,而兩卡之間互傳資料又耗掉不少時間,最後逼得他們改動 AI 本身的結構,讓兩邊盡量各算各的、只在安排好的地方交換一次資料。M 的結論是:從那時起,就不是研究者想把模型做成什麼樣、硬體照單全收,而是顯示卡的容量有多大、傳資料有多快,反過來決定了 AI 該怎麼設計。

客戶從玩家換成巨頭,NVIDIA 的營收結構也跟著換了

深度學習起飛後,來買顯示卡的客戶與遊戲玩家完全不同。玩家想的是這張卡能不能讓遊戲多跑 10 幀;研究人員想的是能不能用它再試一個更大的模型、把以前做不到的事做出來。黃仁勳看到苗頭後親自去拜見客戶:2016 年他把 NVIDIA 造出的第一臺 AI 超級電腦 DGX-1 親自送到舊金山一家當時還很小的非營利機構,也就是後來推出 ChatGPT 的 OpenAI。

既然客戶每天瘋狂算矩陣乘法與加法,NVIDIA 乾脆在 GPU 裡開一個 VIP 專區。2017 年,專門伺候 AI 的 Tensor Core(張量核心)正式進駐 GPU。M 用「風水輪流轉」形容這個轉向:以前是科學家想辦法用遊戲顯示卡湊合著算 AI,現在反過來逼晶片廠商為 AI 專門改硬體。

規模膨脹的速度超出所有人預期。2020 年微軟專門為 OpenAI 建造的超級電腦,一口氣塞進整整 1 萬顆 GPU;從 AlexNet 的兩張遊戲卡到微軟的 1 萬顆,中間只過了 8 年,規模放大 5000 倍。2022 年底 ChatGPT 橫空出世後,訓練模型只是第一步,全球幾億使用者每天同時上線、你問一句我問一句,背後全靠 GPU 24 小時不間斷即時運算。買顯示卡的主力從大學實驗室一路擴大到微軟、Google、Meta 這些手握重金的科技巨頭。

M 引用 NVIDIA 最近一期財報指出,公司每收進 10 塊錢,已有超過 9 塊來自資料中心業務。當年它得靠精美畫面誘惑玩家多買一張卡,今天所有科技巨頭為了做大 AI 得排隊搶它的算力。

自研晶片搶的是最划算的那一段,不是整顆 GPU

黃仁勳的新客戶偏偏是全世界最有錢、最有能力自己造晶片的巨頭。研究新模型時大家只在乎能不能跑起來、效果好不好,花多少錢無所謂;但當一項 AI 服務每天被全球使用者使用無數次,大廠就得算另一筆帳:每次回答、每次識別究竟花多少錢。一臺機器省一點沒感覺,幾萬臺機器年復一年地跑,哪個老闆看了不心疼。

這與比特幣礦機的邏輯相同:既然某些計算方式已經固定、每天重複上萬次,何必買通用 GPU,自己定製一顆晶片就好。Google 早就算過這筆帳——內部估算若全球使用者每天對著手機用幾分鐘語音搜尋,按當時的計算方式,Google 自己的資料中心扛不住,於是早早開始自研 TPU,把用不上的東西砍掉,硬體資源全部集中在 AI 每天反覆做的計算上。TPU 同樣可程式設計、支援不同模型,只是在設計取捨上與通用 GPU 不同。M 的判斷標準很明確:只要自研晶片在日常任務裡省下的機器與電費能抵過研發和換平臺的成本,這筆買賣就划算。

但 GPU 不會像當年的挖礦市場那樣被一腳踢開,原因有三:

  • 比特幣演算法是十年不變的死規矩,電路可以焊死;AI 的模型與用法隔幾個月就換新花樣,從 MoE 到能自己查資料、跑軟體的 Agent,變化太快。把電路做死,明天換一個新架構,幾億美元研發費就打水漂。
  • NVIDIA 用 Tensor Core 加速計算、用 NVLink 把幾萬張卡連成一臺超級電腦。
  • CUDA 生態繫結工程師近 20 年,客戶沒那麼容易集體搬家。

真正的威脅來自換一種思路的對手:不搶 GPU 全部的活,只專挑它最吃力的那一部分。

挑戰者繞開 GPU 的正面戰場,改打資料搬運

那個最吃力的部分就是記憶體牆。今天生成式 AI 一個字一個字往外蹦的時候,每生成一個字,GPU 都得從視訊記憶體重新搬一次海量資料,計算單元算得再快,資料沒送到也只能原地乾等。解法之一是 HBM 高頻寬記憶體:把多層記憶體晶片像摩天大樓一樣垂直疊起來、緊貼 GPU 放,再用大量通道同時傳資料,相當於炒菜時在手邊搭一個調料架,油鹽醬醋茶伸手就能拿到。但灶臺旁空間有限,調料架不能無限往上搭,能放多少晶片、耗多少電、熱量怎麼散,全都有物理極限。

挑戰者於是從三個方向切入:

路線代表公司做法針對的瓶頸
整片晶圓級晶片Cerebras不切晶圓,直接造接近整片晶圓尺寸的巨型晶片,把海量計算單元與高速儲存塞進同一片矽片,資料在晶片內部走兩步就到小晶片之間傳輸太慢
GPU 與巨型晶片接力AMD 與 Cerebras由擅長吞海量資料的 GPU 負責讀題,Cerebras 一個字一個字生成答案單一晶片難以兼顧讀取與生成
存算一體IBM(研究中)改裝儲存單元,讓存資料的地方自己完成一部分乘法與加法資料搬進搬出太費勁
光計算Lightmatter用雷射代替電來計算,光穿過晶片的一瞬間數學題就算完,速度快且幾乎不發熱能耗與散熱

M 從這些案例歸納出一個模式:GPU 面對的競爭者已經不一樣了,未來的對手未必是照著 GPU 的樣子再做一顆更快的 GPU,而是先挑一種特定工作、換一種安排資料和計算的方法,把那一部分做得更划算。GPU 也不會站著等被換掉,它可能加入新的計算電路,或把這些新方法用在自己身上;到那時名字還叫 GPU,裡面的東西可能已與今天很不一樣。

連遊戲本行都在被 AI 改寫,GPU 的名字正在與內容脫節

這種改變已經發生在 GPU 最早的老本行。以被稱為「顯示卡殺手」的《賽博朋克 2077》為例,夜之城滿街霓虹燈照到車身、玻璃和地上水坑到處都是反光,若讓顯示卡像以前一樣老老實實硬算每一束光、每一個畫素,再貴的顯示卡也得卡頓。現在的 DLSS 技術讓 GPU 先畫一張低解析度底圖,再交給 AI 腦補成高畫質畫面,甚至能在兩幀之間無中生有插入新畫面。M 的觀察帶點調侃:十幾年前科學家藉著遊戲顯示卡把 AI 餵大,今天 AI 反過來幫顯示卡畫圖、省力氣,「怎麼聽起來感覺像養小孩一樣」。

資料中心裡的情況更徹底。AMD 專為資料中心打造的 CDNA 架構,為了把晶片空間全部留給計算,直接砍掉畫圖與接顯示器的電路——頂著圖形處理器的名字,卻連一幀遊戲畫面都畫不出來。NVIDIA 的 Blackwell 系列 B200 與 Rubin 等資料中心 GPU 也一樣,名字還叫 GPU,裡面的電路已是圍著訓練模型、跑 AI 來設計,根本不是拿回家打遊戲用的。

M 對 GPU 的終局給出的是開放式判斷,而非預言:如果有一天遊戲畫面更多交給 AI 生成,而執行這些 AI 又有比 GPU 更合適的新晶片,這個陪了我們幾十年的老夥伴很可能失去今天獨挑大梁的主角位置,也可能繼續進化成我們現在還不熟悉的樣子。

「也許根本沒想過什麼改變世界,只是想讓《雷神之錘》裡面的古堡牆塊少一點馬賽克,讓遠處跑過來的人物別那麼早就變成一個方塊,讓自己心愛的遊戲能夠再跑得順一點。」

這條因果鏈的真正教訓

把整集拆開看,GPU 的崛起不是單一技術突破的結果,而是三次「意外需求」的疊加:玩家要更真實的 3D 畫面,逼出了平行計算的硬體;開發者要更自由的畫面控制,逼出了可程式設計管線;科學家要更便宜的算力,逼出了 CUDA 與統一計算單元。每一次,NVIDIA 都是被客戶推著走,而不是預先設計好路線——M 自己也承認,CUDA 最初瞄準的是石油、生物模擬與金融分析,不是大模型。

值得追蹤的張力有兩處。第一,護城河的性質正在改變:CUDA 綁住的是工程師的習慣與既有程式碼,但當客戶是微軟、Google、Meta 這種有能力自建工具鏈的巨頭,軟體生態的黏著力會被重新定價;TPU 的邏輯不是打敗 GPU,而是讓 GPU 只做最不划算的那一段。第二,記憶體牆把競爭從「誰的算力更強」推向「誰的資料搬運架構更省」,Cerebras 的整片晶圓、IBM 的存算一體、Lightmatter 的光計算,本質上都是在回答同一個問題:能不能不要搬那麼多資料。如果其中任一條路線在成本上跑通,GPU 今天 9 成營收來自資料中心的結構就會第一次面臨真正的替代壓力——而這正是節目標題所說的「科技巨頭急著取代它」的具體含義。

來源: M億財富MEmoney (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論