Specula:從零打造可執行 xv6-rv32 的亂序 RISC-V 處理器
Building an OOO RISC-V CPU from scratch
作者以 Bluespec SystemVerilog 從零打造 Specula,這款 32 位元、單發射的亂序 RISC-V 處理器可在模擬中啟動 xv6-rv32,並針對 Artix-7 FPGA 綜合結果進行多輪最佳化。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
文章沿著 Specula 從微架構設計到 FPGA 綜合的過程,呈現迭代除法器、佇列選擇與流水線調整如何改變資源用量和時序。
發布於 2026-11-06
我為什麼決定開發 Specula
一切始於我就讀工程系的第四學期(2025 年初)。當時我真的對課程內容感到厭倦,沒有一門課能引起我的興趣,所以我做了任何好奇的孩子都會做的事:尋找真正讓自己興奮的事物。我全心投入處理器設計和 FPGA 的世界。我對基本的循序處理器如何運作已有不錯的理解,也正努力弄懂如何處理冒險。在一次次深入探索的過程中,我記得自己搜尋了循序處理器的實際案例,想看看筆電裡的 CPU 和我過去幾個月打造的處理器究竟有多不同。
我發現自己的 Ryzen 9 CPU 是所謂的「亂序」處理器。太好了,這又多了一個不專心修讀大學課程內容的理由。它看起來正是我接下來想挑戰的東西,主要有兩個原因:它的複雜度,以及我的筆電裡竟然有比我想像中先進得多的東西。我很確定自己一開始為 Specula 撰寫的儲存庫說明大概是「Specula 是以 Bluespec SystemVerilog 撰寫的雙發射亂序 RV32I 處理器」……沒錯,年輕時的我野心真的太大了。
在我努力理解現代處理器運作的複雜精妙原理時,這段說明維持了好一陣子。我學習的方式是先閱讀相關資料,再試著重現,看看過程中會在哪裡出問題,因為這樣的時刻能教會人的,遠勝過任何人能上的理論課。我的大多數專案都是如此,但 Specula 確實是個異例,原因很簡單:我以前從未試著獨自閱讀並理解過這類內容,而且這也是我決定嘗試的第二個 Bluespec 專案……當時我還在學 Bluespec。
Specula 究竟是什麼?
各位親愛的讀者,如果你是在讀到這篇網誌之前,從未聽過「亂序處理器」這個詞,就讓我快速介紹一下。傳統的循序處理器會依照指令順序執行;亂序處理器則可以在指令準備完成時執行,只要沒有相依性即可(後面幾段會再談)。它會運用許多複雜的硬體單元和演算法來達成這一點。Specula 是一款以 Bluespec SystemVerilog 完整撰寫的 32 位元、單發射(也就是處理器每個時脈週期最多隻能發射一條指令)、亂序且具備推測執行能力的 RISC-V 處理器(處理器會在尚未確定指令是否真的需要之前就先執行)。設計相較於最初那個荒唐的野心已經演進不少;目前實作的核心採用單路設計,透過暫存器重新命名消除虛假相依性,並使用重新排序緩衝區,確保已完成的指令最終會依照正確的程式順序更新架構狀態。
這裡有很多術語,讓我們試著像拆開棉花糖一樣,逐一拆解。
Specula 的高階微架構。為了讓圖示更清楚,省略了部分內部佇列和控制路徑。
很長一段時間裡,目標都是用 Bluespec 實作一顆亂序處理器。事實上,大約有 4 個月的時間(從 Sep'25 到 Feb'26),Specula 一直被擱在一旁。在這段空檔期間,我對現代處理器的基本運作方式有了更深入的瞭解,也研究了其他亂序 RISC-V 設計,想看看 Specula 還能進一步做到什麼程度。最有名的可能是 Berkeley 的 SonicBOOM;令我驚訝的是,我還找到一個用 Bluespec 實作亂序機器的專案。這些夥伴在 2017 年開始了這個專案,那時我還只有 4 英尺 5 英寸高。
大約在 March'26,我重新投入 Specula,當時仍只想實現一般的亂序執行。過程中,我接觸到 xv6,看到其他專案都能啟動 Linux,便讓我忍不住想:「為什麼不試著讓 Specula 執行一套教學用作業系統?」這表示我現在必須為處理器加入特權模式、CSRs、陷阱處理和 Sv32 虛擬記憶體,還要建置必要的系統元件,例如 UART、PLIC和 VirtIO 區塊裝置。
我也想看看這項設計轉換成實際硬體後會是什麼樣子,因此我讓它跑過 Vivado 綜合流程,目標是 Artix-7 FPGA。所以沒錯,我又一次設法把另外 50 個領域扯進我的專案,讓它變得更複雜了。不過,學習不就是這樣嗎?:D
現代處理器背後的奧秘
現代處理器每秒執行數十億條指令,但並非每條指令都需要相同的時間才能完成。整數加法可能很快就能完成,相較之下,除法或記憶體存取則要花更久。現在想像一下,處理器正在執行一連串指令,其中一條正在等待記憶體資料,但後面的好幾條指令彼此完全獨立。傳統的循序處理器可能因此停滯,即使還有可執行的工作也一樣。亂序執行試圖解決的問題之一就是這個。處理器不必強制指令嚴格按照程式中的排列順序執行,而是允許彼此獨立的指令在運算元和執行資源就緒時繼續執行。
當然,這並不像把指令重新排列一下那麼簡單。有些指令確實依賴較早指令的結果,其他指令則可能存取相同的暫存器或記憶體位置。因此,我們需要一些機制來追蹤這些相依關係、找出已準備好執行的指令,並確保以不同順序執行指令不會改變程式可觀察到的行為。(而且在這個過程中,或許還能少掉幾根頭髮。)這時就會用到暫存器重新命名、保留站和重排序緩衝區等概念。這些機制讓亂序處理器得以運作;探索 Specula 時,我們也會遇到這些基礎元件。
循序處理器與亂序處理器的指令執行比較。循序處理器會因延遲較高的指令而停滯,亂序處理器則能繼續執行彼此獨立的指令。
前端:擷取並預測接下來要執行的指令
有了這些理論概念在腦中,接著來看看 Specula 的內部結構。每條指令在 Specula 中的旅程都從前端開始。前端負責從記憶體擷取指令、判斷接下來應從哪裡繼續執行, 並為後端準備指令。由於 Specula 支援虛擬記憶體和 RISC-V 壓縮指令擴充,擷取指令並非只是從某個位址讀取接下來的 32 位元。指令擷取會經過 Sv32 位址轉譯,壓縮指令也會在進入管線前展開。如此一來,處理器其餘部分就能使用一致的指令表示方式。
前端另一個有趣的部分是分支預測。若要等分支指令執行後才決定接下來要擷取什麼,前端就會閒置,因此 Specula 使用gshare 分支預測器 以及分支目標緩衝區(BTB),預測接下來的控制流程路徑。預測器使用一個 64 項、每項 2 位元的模式歷史表,以及一個 6 位元的全域歷史暫存器;BTB 則包含 16 個直接對映專案。Specula 也限制同一時間只能有一條尚未解析的控制流程指令, 讓分支復原更易於管理。分支執行時會檢查預測結果,並在寫回階段更新預測器。
Specula 中的分支預測。前端使用 gshare 預測器和 BTB 判定下一個擷取位址;分支結果在執行階段解析,預測器狀態在寫回階段更新,而預測錯誤則在 ROB 順序提交佇列的佇列首處理。
暫存器重新命名與派發
因此,在這篇部落格文章的第二部分,我談到了所謂的「相依性」。簡單來說,相依性是指一條指令必須等另一條指令完成或提供結果後,才能安全執行的關係。由於現代處理器會嘗試以非循序方式執行指令, 相依性可能會限制我們努力追求的指令速度提升。想像兩條指令寫入同一個架構暫存器:即使兩者在其他方面互不相依,處理器仍必須確保其中一條指令不會意外覆寫另一條指令仍需要的值。 這時就要用到暫存器重新命名。Specula 有一個暫存器別名錶(RAT),負責將架構暫存器對映至實體暫存器。指令派發時,其來源運算元會對映至目前所對應的實體暫存器,而目的暫存器則會從空閒清單中取得一個新配置的實體暫存器。 這能消除讀後寫(WAR)和寫後寫(WAW)冒險造成的假相依性,同時保留真正的寫後讀(RAW)相依性。
Specula 中的暫存器重新命名。每條指令都會取得一個實體目的暫存器,藉此消除假相依性,同時保留指令間真正的資料相依性。
重新命名後,指令會派發至適當的後端結構。Specula 有一個 8 項的保留站,用於算術和分支指令;另有一個獨立的 8 項記憶體佇列,用於載入、儲存和原子操作。指令也會在 32 項的重排序緩衝區(ROB)中取得一個專案, 以追蹤指令進度,並確保指令最終依程式順序提交。實體暫存器檔包含 64 個暫存器,而空閒清單則追蹤哪些暫存器可供配置。
Specula 的後端架構。重新命名後的指令會派送至保留站或記憶體佇列,而重排序緩衝區會追蹤指令進度,並確保它們依程式順序退休。
執行、記憶體與退休
上一節讓我們一窺 Specula 的後端機制。誰能想到現代處理器竟然如此複雜?要把這些東西塞進筆電裡的一小塊晶片,更是不可思議的成就。不過,我想再深入探討一些細節,確保讀者真正瞭解打造現代微晶片背後的架構魔法。請繼續讀下去,接下來的章節(先預告一下)會更精彩;如果你已經熟悉保留站、ROB 等機制,也可以直接跳到下一章。
指令派送後,焦點就轉向後端。算術與分支指令會在 Specula 的 8 項保留站中等待,直到來源運算元就緒。排程器會選取索引最低的就緒專案並送去執行;它不一定會選取最早的指令。指令被選取時,會從實體暫存器檔讀取運算元。Specula 的執行單元包括負責整數與分支運算的 ALU、使用 FPGA 的 DSP 資源實作的乘法器,以及需要 32 次迭代才能完成運算的迭代式除法器。 結果會寫回實體暫存器檔,依賴這些結果的指令接著便可就緒並等待執行。
記憶體指令會沿著另一條路徑,經過記憶體佇列處理。Specula 先進行位址產生,再進入記憶體發出階段,過程中會執行 Sv32 位址轉譯。載入指令必須等到所有較舊的儲存指令都已知其位址,避免進行推測式記憶體相依性預測。儲存佇列負責處理待執行的儲存指令,並支援位元組層級的轉送;在適當情況下,載入指令可從較舊的儲存指令取得所需的位元組。儲存指令執行後不會立即更新記憶體,而是會一直保留,直到對應指令提交。 這能確保記憶體修改符合處理器的退休順序。
最後一個關鍵機制是重排序緩衝區(ROB)。它就像黏合劑,將整個執行流程串在一起。指令完成的順序可能與派送順序完全不同,但 ROB 會確保它們依程式順序退休。指令抵達 ROB 的佇列首端並成功完成後,就能提交其架構狀態變更。如果你還記得前端一節提過的內容,Specula 支援分支預測。因此,若發生預測錯誤,ROB 會在這裡協助復原。分支預測錯誤的指令抵達 ROB 首端時,系統便會處理它,清除較新的指令、還原重新命名檢查點,並將取指導向正確位址。
Specula 中完整的指令生命週期。
讓 Specula 執行 xv6
如果你讀到這裡,恭喜你,你大概在一小時左右就學完了半個學期的內容。現在,為了完整理解 Specula,我需要你選修一門作業系統基礎課程……因為這正是 Specula 接下來的里程碑。
讓亂序執行順利運作,感覺很棒。但我們這些電腦架構師從不滿足於「很棒」,總是喜歡繼續往下挖,直到挖到地函。現在,標準的 xv6 作業系統是為 64 位元處理器設計的,而我設計時用的卻是 32 位元架構,真可惜。因此我決定採用 xv6-rv32,這是 MIT 將 xv6 OS 移植到 32 位元 RISC-V 的版本。然而,要讓作業系統運作,所需的不只是實作基本整數指令集。正如前面第二節所說,Specula 必須支援特權執行,讓軟體能在不同的特權層級運作,並提供處理例外、中斷和系統呼叫所需的機制。對 Specula 來說,這代表要加入機器模式與監督者模式支援、控制與狀態暫存器(CSR),以及用來從陷阱處理常式返回的指令。我也必須擴充指令集,加入所需的壓縮指令。
另一項重要功能是虛擬記憶體。xv6 使用 Sv32,也就是 RISC-V 的 32 位元虛擬記憶體機制,透過兩層頁表結構將虛擬位址轉換為實體位址。Specula 會透過頁表遍歷,為指令擷取和載入/儲存存取實作這項轉換。 這讓處理器能使用虛擬位址執行軟體,而不必要求每個程式都直接操作實體記憶體。這部分仍有改進空間:Specula 會在每次相關存取時遍歷頁表,目前尚未實作 TLB。
最後,每當作業系統需要告訴我出了問題時,Specula 周邊還需要一些必要的系統元件。這包括用於主控臺輸入/輸出的 UART、用來管理裝置中斷的平臺層級中斷控制器(PLIC),以及提供磁碟存取功能的 VirtIO 區塊裝置。 VirtIO 裝置以行為式 DMA 模型實作,而 PLIC 則負責處理來自 UART 和 VirtIO 裝置的中斷。
一切就緒後,我便能在 Bluesim 中啟動 xv6-rv32、進入互動式 Shell,並執行基本的檔案系統操作。
Specula 在 Bluesim 中執行 xv6-rv32。系統成功啟動並進入互動式 Shell,也支援基本的檔案系統操作,包括建立目錄、列出檔案,以及寫入和讀取檔案。
將 Specula 搬上 FPGA
如同承諾的,這就是給各位聽眾的最後一堂課。簡單回顧一下,我們打造出了一臺能以不錯的程度啟動 xv6 的可運作亂序 RISC-V 處理器。但這一切都只在模擬中進行,現在就踩煞車並不是最好的時機。我想看看 Specula 轉換成實際 FPGA 硬體後會是什麼樣子。因此,我使用 Vivado 合成流程,將目標設為 Artix-7 XC7A35T。在模擬中完美運作的設計,不一定能轉換成高效率的硬體實作。我現在面對的新難題是 LUT 數量、正反器數量,以及最重要的關鍵時序路徑。
這就是我拿在手上的 Basys3 FPGA。它屬於 Artix-7 系列,是一款適合初學者的開發板。
我的初步綜合結果並不「依序排列」。這個笑話不太好笑,但早期實作大約用了 30,582 個 LUT(Basys 開發板最多隻能容納約 20,800 個 LUT),估計最高運作頻率也只有約 11.9 MHz(也就是慢得像一群蝸牛在花生醬裡爬行)。 顯然,還有很大的改善空間。因此,我針對微架構的不同部分進行了一系列實驗,試著瞭解哪些結構最耗用資源,以及哪些邏輯路徑限制了時脈頻率。有些實驗效果很好,有些讓情況變得更糟,還有一些則讓我明白,看似顯而易見的最佳化不一定是正確的做法。
讓 Specula 符合需求
現在要進入故事的重頭戲了,希望你已經添好咖啡,因為接下來兩個章節大概都是在講我如何施展魔法。我們看到,我的設計用了約 30,582 個 LUT;在 10 ns(也就是 100 MHz)的時脈限制下,WNS(最差負裕度)為 -73.8 ns。最差的關鍵路徑經過組合除法器。在 Bluespec 中,撰寫 a / b 和 a % b 非常方便,但產生的硬體卻是一個大型組合除法網路,形成非常深的邏輯路徑。
那麼,可以怎麼改善呢?我把它換成迭代式 radix-2 還原除法器。除法器不再試圖透過單次組合運算產生商數和餘數,而是重複使用同一組硬體,經過 32 次迭代完成計算。
這種做法以執行延遲換取大幅縮小的實作規模。DIVU 和 REMU 現在共用同一個除法器,除法進行時 ALU 會等待。這讓 LUT 使用量從 30,582 降至 28,276,WNS 也從 -73.8 ns 改善至 -46.7 ns。
Specula 原始組合除法器與迭代式 radix-2 還原除法器的比較。
下一個瓶頸是負責從記憶體佇列中挑選最早就緒記憶體操作的邏輯。原始實作會依序比較全部八個專案的年齡,因此每次比較都要依賴前一次比較的結果。我將它改成三層平衡比較樹, 把邏輯深度從 70 層降至 57 層。這讓 LUT 數量減少 1,970,WNS 改善 11.8 ns。我又進一步最佳化這個結構,將比較樹換成全配對比較網路,透過 one-hot 選擇遮罩找出符合資格且最早的專案。這項改動也搭配將記憶體選取與記憶體發出拆分,讓選取結果可以先暫存,再繼續後續的記憶體管線作業。
Specula 記憶體佇列選取器的演進:從串列比較鏈到最終的全配對 one-hot 選擇網路。
另一個需要處理的問題是 Store Queue 轉送。載入指令存取記憶體時,必須考量較舊的儲存指令可能已經包含所需的部分或全部位元組。我最初的實作使用串列優先鏈,找出每個位元組通道中符合條件且最新的儲存指令。我將它改成平衡選擇樹, 多用了 1,018 個 LUT,換來 WNS 改善 7.2 ns。接著,我進一步改變儲存指令的排序方式:不再反覆比較 ROB 標籤,而是利用它們在 Store Queue 中的相對位置。由於專案依程式順序配置與退役,佇列位置便能提供目前有效專案所需的排序資訊。
這項改動移除了 ROB 標籤年齡比較,以及儲存指令執行路徑中額外的一個八向查詢。結果減少了 1,241 個 LUT,WNS 也進一步改善 6.0 ns。設計因此降至 20,382 個 LUT,終於符合 Basys 3 的 20,800 個 LUT 容量。
最佳化 Store Queue 轉送,並以 Store Queue 中的相對位置取代基於 ROB 標籤的年齡比較。
在 FPGA 綜閤中追逐時序
好,我做到了!我讓 Specula 塞進了可用的空間,而且顯然,先前的修正並非唯一促成這項成果的因素。一路上,我嘗試了多種微架構最佳化,大幅改善了 Specula 最終的綜合結果。
縮減 Reorder Buffer 是其中一項亮點。我所做的就是將 Reorder Buffer 從 64 個專案縮減為 32 個。我選擇調整 Reorder Buffer,是因為原本的 64 個專案超出此設計所需的容量;縮減深度也減少了追蹤執行中指令所需的狀態和相關邏輯。 這項變更大幅減少了 5,701 個 LUT 和 3,837 個正反器,並讓 WNS 改善 0.8 ns。在沒有造成明顯時序損失的情況下,大幅縮減了面積。
在任何電腦架構課程中,你總會聽到大家說,最佳化設計最有效的方法之一就是使用管線化。簡單來說,管線化就是將大型工作切分成較小的連續步驟,讓每個步驟只負責一項工作。步驟 1 一完成,就會把工作交給步驟 2,並立刻拿取下一份原始資料。每個階段都會把工作往下傳,並立即開始處理下一項,因此不會有人閒等,各個階段(步驟)也能同時保持忙碌。我也照做了!我重新調整了記憶體管線。原先,選擇、位址產生和記憶體發出彼此緊密耦合,形成很長的組合邏輯路徑。 我拆分了管線,讓選擇符合條件的記憶體操作與發出操作不再屬於同一段冗長的組合邏輯流程。這當然增加了額外的階段,但初步拆分後,WNS 從約 −20.9 ns 改善至 −7.0 ns。之後再將位址產生流程獨立出來,則進一步改善了結果,並減少約 594 個 LUT。
重新調整後的記憶體管線,將操作選擇、位址產生和記憶體發出分成不同階段。
前端和派送邏輯也需要調整。在擷取與轉譯方面,我做了幾項針對性修改,包括註冊與分頁相關的狀態,以及重新整理頁表根位址的處理方式。我也重新檢查了派送中的結構。原本,實體暫存器空閒串列需要找出可用的暫存器,因此我將選取邏輯改為平衡式的兩層 8×8 選取器。
Specula 的前端與派送最佳化,涵蓋 Sv32 位址轉譯、擷取預解碼與實體暫存器配置。
其他最佳化與實驗
| 最佳化 | 結果 |
|---|---|
保留站 notFull 邏輯 | 保留。 WNS 從 −1.24 ns 改善至 −0.57 ns,代價是增加 313 個 LUT。 |
| DSP48E1 PREG 整合 | 保留。 將乘法器結果暫存器整合至 DSP 的內部管線暫存器。 |
| MMU 位址串接 | 保留。 以串接取代位址加法器,節省 124 個 LUT。 |
| 記憶體佇列運算元擷取 | 不採用。 LUT 使用量增加 934 個;64:1 暫存器讀取只是移到了派送階段。 |
| ROB 專案精簡(133 → 96 位元) | 不採用。 節省 1,162 個正反器,但 LUT 使用量增加 1,036 個。 |
| 實體暫存器檔案(64 → 48 個專案) | 不採用。 正反器減少 521 個,但 LUT 使用量增加 120 個。 |
是啊,如果我真的把在 Specula 上嘗試過的每一項最佳化都記錄下來,這大概會變成一篇研究論文。不過,我想重點其實是找出現有機制在哪裡造成了不必要的工作,並思考能否以更有效率的方式重新安排這些工作。
經過這些最佳化後,我終於得到一個非常接近符合目標時序限制的設計。Vivado 最終合成結果顯示,設計使用 19,675 個 LUT、12,466 個正反器和 3 個 DSP48E1 區塊,未推斷出 BRAM。這相當於 Basys 3 標稱 LUT 容量 20,800 個的 94.59%。在 10 ns 時脈限制(100 MHz)下, 設計的 WNS 為 −0.115 ns,只有一個時序端點未通過。
關鍵路徑已經和一開始大不相同。它不再經過處理器的執行管線,而是經過 VirtIO 裝置模型中的位址計算。
[!NOTE] 這些是合成後的結果,並非完成佈局繞線的實作。RAM 和磁碟映像已設為黑箱,設計中也仍保留面向模擬的邏輯。因此,雖然合成後的 LUT 數量低於 Basys 3 的標稱容量,但這無法證明完整系統能裝進該開發板,或能以 100 MHz 運作。
高潮
沒錯,Specula 確實是我目前嘗試過最具挑戰性的專案之一。過程中有很多時候,我完全不知道自己在做什麼;老實說,這大概也是整段經歷中最有價值的部分。Specula 還有很多值得探索的地方,但我無法保證近期會繼續研究。
至於你,既然已經讀到這裡,我有些內容想分享。如果你想花接下來幾個小時深入研究微架構、時序與亂序執行,以下是我會建議的入門資料。
- Tomasulo 演算法是保留站與動態排程背後的原始概念,也是「結果可以隨時到達」這種行為的由來。
- AMD 的 Vivado Design Methodology 指南(UG949)很適合閱讀,瞭解如何在開啟文字編輯器之前,就先思考邏輯層級、扇出和暫存器配置;如果你想從一開始就以高 Fmax 為目標進行設計,這本指南會很有幫助。
- John Paul Shen 和 Mikko Lipasti 撰寫的 Modern Processor Design,是我在研究實際亂序核心中的管線、儲存轉送和推測執行時會參考的教科書。
- 亂序執行、暫存器重新命名與退休深入探討了亂序執行,內容精彩;作者還分享了許多類似主題的精采文章。
如果你花了好幾週平衡管線、重建比較樹、調整暫存器連線埠,硬體卻還是達不到時脈目標,那麼永遠還有終極最佳化策略。
真正的程式設計師會用蝴蝶。
