跳到正文
Hacker News (official RSS)(makepad.github.io)·· 11 天前精選品質評分82

Relax 推出 Rust 即時編譯器與 JIT 執行環境

Relax: JIT compiler for Rust to reduce build times

重點導讀

Relax 推出以 Rust 編寫的即時編譯器與 JIT 執行環境,可直接執行 Cargo 專案原始碼,並在程式執行時編譯函式、最佳化熱門程式碼及套用部分程式碼變更。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

Relax 以函式為單位即時編譯並支援執行中修補,縮短 Rust 開發迭代;文中也量化了相較 rustc 的效能與記憶體代價。

正文 · 中文翻譯

這是本頁提供給未啟用 JavaScript 的讀者閱讀的完整純 HTML 文字。相同文字也收錄在 README 和純 HTML 頁面。

Rust,無須等待。

rustc 會先建置程式,再由你執行。Relax 則是在建置程式的同時執行它。

Relax 是以 Rust 撰寫的即時編譯器與 JIT 執行階段。它能直接從原始碼執行 Cargo 套件,不需要 rustc、LLVM 或連結器參與:每個函式首次呼叫時才編譯,在程式執行期間最佳化常用函式,並將你的修改套用到執行中的程式。

Relax 與 cargo、rustc 的比較

cargo + rustcRelax
大型 3D 遊戲,乾淨的程式碼簽出 → 顯示第一個畫面建置約需 3 min,接著啟動11 s,在 M4 MacBook 上直接從原始碼執行
同一款遊戲,第二次執行 → 顯示第一個畫面啟動已建置的二進位檔1.15 s,在 M4 MacBook 上,沒有重新編譯任何內容
小型應用程式 → 顯示第一個畫面先建置冷啟動 3.7 s,暖啟動 0.41 s(M4 MacBook)
修改執行中程式的一個函式重新建置、重新連結、重新啟動:狀態遺失已套用更新:保留狀態
儲存檔案 → 重新執行 92 個測試先重新建置測試二進位檔儲存後 2.2 s
型別與借用檢查cargo check;建置時會先檢查所有內容relax check;執行時會在每個函式執行前檢查型別,並在背景進行借用檢查
最佳化程式碼的速度1.00× (--release)較慢:x64 耗時為 1.12×,arm64 耗時為 1.24×(21 項工作負載的幾何平均值)
需求rustc、LLVM、連結器單一 Rust 函式庫:438k 行程式碼,沒有 crates.io 相依套件

支援 x86-64 和 AArch64 程式碼產生;從乾淨複製的儲存庫開始,可在 Linux x86-64 和 macOS arm64 上建置並通過測試。尚未測試 Windows。

取捨

  • 最佳化程式碼較慢。整體而言,Relax 執行的程式碼比 rustc 的 --release 慢:x64 耗時為 1.12×,arm64 耗時為 1.24×(21 項工作負載的幾何平均值);與原生 CPU 建置版本相比,則分別為 1.22× 和 1.25×。只有少數工作負載執行得更快:請參閱LLVM 仍較快的情況。
  • 耗用更多記憶體。編譯器、快取和它產生的每個程式碼版本都與程式共用同一個程式,而且 JIT 程式碼只會持續增加。relax inspect <pid> memory呈現記憶體用量的分佈,code則呈現用量增長。套件的 target/makepad-run 中,程式碼快取會佔用 120 to 190 MB,適用於 hello。
  • relax check目前還沒有比 cargo check 快。大型套件的冷啟動檢查耗時較長、耗用的記憶體也比 cargo check 多,而且修改後重新檢查的內容可能超出所需。我們正在改善。
  • 目前還無法執行所有 crate。libs/relax/KNOWN_GAPS.md 列出尚待解決的問題,並為每項問題提供重現方式。
  • 不是所有修改都能即時套用。函式本體的修改可以即時套用。結構體配置、匯入、trait 或 impl 標頭,或巨集有所變更時,則需等到重新啟動;Relax 會提供重新啟動選項:relax inspect <pid> session relaunch。
  • 借用檢查器會與程式並行執行。執行時會在每個函式執行前檢查型別,並在背景進行借用檢查;relax run --check-first 則會等借用檢查器完成。
  • 不是用於正式發布的建置。Relax 適用於修改與執行的工作流程。發布由 cargo build --release 建置的版本。

JIT 能為你帶來什麼

relax run 會印出一行 relax-remote: pid <pid>。以下指令除了 run 和 test 之外,都是 relax inspect <pid> <command>,也就是由執行中的程式在執行期間回答的問題。

功能指令
即時修補,保留狀態儲存檔案後,修改過的函式會重新檢查、重新編譯,並替換到執行中的程式裡。若呼叫到無法編譯的程式碼,呼叫會暫停,直到修改修正問題為止。relax run <package>
儲存時執行測試讓測試維持暖機狀態,並重新執行呼叫過你所修改函式的測試。relax test --live <package>
發生 panic 時暫停發生 panic 時,執行緒會在堆疊保持完整的狀態下暫停:有終端機連線時最多暫停 10 分鐘,沒有連線時暫停 2 s。檢視區域變數、在該堆疊框架中執行 Rust 程式碼,接著讓它展開堆疊;或者從入口重新執行 restartable 函式。panics、locals panic=P1、eval <expr>、resume P1 panic
不需偵錯工具的中斷點命中時,執行緒會在呼叫處暫停,並保留完整堆疊。break <file>:<line>、locals break=K1、continue
查明程式卡住的原因死鎖、受阻、忙碌或閒置:顯示判定結果、等待鏈,以及相關執行緒的堆疊。why-hung
效能分析取樣 JIT 與原生堆疊框架:各執行緒的 CPU 使用量、最熱門函式及其最熱行、標示每個框架所屬層級的呼叫樹,以及可用於火焰圖的摺疊堆疊。prof s=3、prof view=tree、why-slow
飛行記錄器持續運作並使用有上限的記憶體:記錄最近幾分鐘的執行緒、等待、編譯與事件;發生 panic、錯誤或超過 1 s 的卡頓時會自動儲存。rec save
記憶體與記憶體洩漏顯示記憶體的使用情況(依型別區分的 RSS、使用中與保留的空閒 malloc 記憶體,以及 Relax 本身所佔比例),並依配置堆疊顯示程式的堆積記憶體,以及不同快照之間可能洩漏的記憶體。堆積追蹤僅支援 Linux x86-64 和 macOS arm64。memory、heap start、heap snap a、heap diff a now

relax inspect <pid> help 列出其他功能,包括 asm <fn> vs=rustc(並列顯示 JIT 機器碼與 rustc 的機器碼)、count <fn>(精確呼叫次數)和 counters(硬體計數器)。

立即試用

從全新複製的儲存庫開始,建置 relax,並透過 JIT 執行新的套件:

git clone https://github.com/makepad/relax
cargo build --release --manifest-path relax/Cargo.toml -p relax-runner --bin relax

cargo new hello
cd hello
../relax/target/release/relax run --quiet hello    # run main under the JIT
../relax/target/release/relax test hello           # run its #[test] fns
../relax/target/release/relax check hello          # type- and borrow-check only

在套件資料夾中執行 relax,並提供套件名稱,而非路徑。它會從建置時使用的儲存庫讀取 Relax 的 std,因此請將 relax 資料夾留在原處。

以全新複製的儲存庫測量:在 16 核心 x86-64 Linux 電腦上建置 relax 花了 53 s;在 cargo 限制為 4 個工作時,於 10 核心 arm64 Mac 上花了 78 s。首次執行 hello 的 relax run 花了 0.24 s 和 0.97 s,後續執行則花了 0.01 到 0.07 s。Relax 會將編譯結果儲存在套件的 target/makepad-run 中(relax clean 會將其移除),因此每個新套件一開始都沒有快取。

網路。 像 hello 這種沒有相依專案的套件不需要網路。若有 crates.io 相依專案,Relax 會先從 ~/.cargo 的登入資料中取得套件;若找不到,則直接從 crates.io 下載,並依據索引中的 SHA-256 進行驗證。使用 MAKEPAD_RUN_OFFLINE=1 或 cargo 的 CARGO_NET_OFFLINE 時,Relax 不會下載任何內容。relax fetch <git-url>(tools/run/runner/src/fetch.rs)會將 Git 儲存庫以單一檔案的形式存放在 ~/.makepad-run 下。


打造全新 Rust 工具鏈的過程

Relax 並非 rustc 的包裝程式,也不是 LLVM 的外掛。它以單一 Rust 函式庫取代兩者,以及 Cargo 和連結器之間負責銜接的部分。

工作一般工具鏈Relax 中的工具
剖析、剖析語法並展開巨集、macro_rules! 和程式巨集rustcrelax-lex、relax-front
解析名稱、求解 trait、推斷型別、檢查借用、評估常數rustcrelax-types
最佳化:內嵌、摺疊、迴圈、範圍rustc 的 MIR 傳遞階段 + LLVMrelax-codegen(O1 和 O3)
配置暫存器,產生 x86-64 和 AArch64 機器碼LLVMrelax-backend
連結並載入系統連結器與載入器relax-compiler,直接輸出至可執行記憶體
讀取資訊清單並解析 crate 相依圖Cargorelax-base
建置 core、alloc 和 std隨附預先建置版本由 Relax 從原始碼編譯(134k 行)
cargo + rustcRelax
編譯預先編譯整個 crate。每次首次呼叫函式時,才編譯一個函式。熱門函式會在背景中逐步升級:直譯器 → O1 → O3。#[relax(O2)] / #[relax(O3)] 可指定預先編譯的層級;在 rustc 中,這個屬性不會產生作用。
快取可能過時的增量編譯產物。每個結果都以其輸入專案的雜湊值作為索引鍵:命中快取的結果等同於全新編譯的結果,因此不會有 cargo clean。
程式巨集建置為原生 dylib,接著載入。符合連結建置條件時以原生方式執行,否則使用 JIT。
原生程式碼全部都是原生程式碼。必須維持原生的 crate(OS 層、GPU、音訊)會透過 #[relax_api] 匯出介面,讓 JIT 程式碼透過 C ABI 呼叫。

Makepad 如何使用 Relax

Relax 來自 Makepad 專案。makepad run 及其工具都位於 Makepad 的儲存庫,而非此儲存庫;本節說明 Makepad 如何使用 Relax。

makepad 是 Relax 的執行器加上 Makepad 主程式。使用 makepad run <package> 啟動的 UI 應用程式會取得:

應用程式可取得的功能指令
無須原生建置視窗會立即開啟,並顯示建置進度;應用程式的第一個視窗會接管它。makepad run <package>
儲存即可套用修補編輯內容會套用到執行中的應用程式;其狀態和視窗都會保留。預設啟用
就地重新啟動無法透過修補套用的編輯(型別的配置、匯入專案、trait 或 impl 標頭、巨集)會在標題列的 JIT 圓環上顯示「更新就緒」。點選後,應用程式會在相同的程式和視窗中重新啟動,並保留其狀態(AppMain::restart_state)和視窗框架;未儲存的工作可能會暫緩重新啟動(AppMain::can_restart)。session relaunch
在視窗中顯示錯誤編譯錯誤和借用檢查器拒絕的編輯會顯示在應用程式上方,並附上檔案和行號。發生當機後,視窗會保持開啟,並在來源檔案變更後提供重新啟動選項。session view open
修正 panic 後重試發生 panic 時,應用程式會暫停,圓環會顯示「因 panic 而暫停」;點選後會顯示訊息和發生位置。在 UI 執行緒上修正程式碼並儲存後,retry 會使用新程式碼重新執行該事件。panics, locals panic=P1, resume P1 retry
檢視程式碼每個函式的程式碼版本、O3 註記、與 rustc 產生的機器碼並列檢視,以及飛行記錄器。versions <fn>, remarks <fn>, asm <fn> vs=rustc, rec save
操控 UI應用程式的遠端控制功能會共用 Relax 的檢查 socket(限同一使用者,不會經過網路)。ui find q=<text>, ui act node=<id> press, grab

除了 makepad run 以外的命令都會傳送至 makepad inspect <app>。在 Makepad 的代理程式工作線連續運作一整天的期間,編輯內容抵達機器後,中位數 3.6 秒便套用完成;在 JIT 或快取尚未暖機時,p90 為 86 秒。

專為 AI 代理程式打造

AI 代理程式無法感受到建置緩慢,但每次建置都會耗費 token、時間,並造成脈絡流失。Makepad 透過多個 AI 代理程式平行建置應用程式;其開發中心 devhub 則讓每個代理程式的應用程式或測試工作在暖機完成的機器上,透過 Relax 持續執行。

代理程式的一次迭代使用 cargo + rustc使用 Relax + devhub
編輯內容送達程式重新建置並連結:大型應用程式需數分鐘送出需 0.1 秒,套用需 3.6 秒(中位數)
測試結果重新建置測試二進位檔,再執行儲存後 2.2 秒便收到 92 項測試結果
檢視 UI重新建置、重新啟動,再返回原畫面擷取即時應用程式畫面,並儲存為 PNG
新增工作執行緒冷建置啟動時已完成暖機:每部機器都會在最新版本保留暖機完成的快取

實際運作時,九條代理程式工作線會並行執行;devhub 每小時處理超過 300 項建置和測試工作,每天有數十項變更合併,每項變更都會在合併前透過 Relax 檢查。

LLVM 仍佔優勢的地方

Relax 的穩態程式碼速度比 LLVM 慢。相同工作負載在 Relax 下所需時間除以在 rustc 下所需時間(越低越好,1.00× = rustc)。

工作負載x64 相較於預設版本x64 相較於原生版本arm64 相較於預設版本arm64 相較於原生版本
文字塑形與字形光柵化1.36×1.38×1.33×1.31×
有向距離場字形產生1.31×1.45×1.26×1.26×
DEFLATE 解碼1.20×1.19×1.26×1.25×
ZIP 封存檔讀取1.22×1.26×1.11×1.10×
PNG 解碼1.21×1.25×1.32×1.32×
Brotli 解碼1.29×1.26×1.27×1.28×
向量地圖圖磚解碼1.06×1.06×1.01×0.99×
Widget 樹狀結構配置1.54×1.49×1.75×1.74×
LLM 解碼主機路徑1.12×0.91×0.87×1.05×
Rust 原始碼 tokenizer1.06×1.06×1.20×1.21×
Markdown 解析1.39×1.31×1.54×1.56×
HTML 解析1.06×0.89×1.04×1.11×
實體鋼琴模型音訊1.22×1.25×1.44×1.44×
Ogg Vorbis 音訊解碼1.20×1.20×1.24×1.27×
遊戲音訊混音器1.03×1.16×1.17×1.18×
指令碼 VM 評估1.11×1.09×1.12×1.13×
實體幾何(CSG)布林運算1.20×1.25×1.11×1.12×
剛體物理0.43×1.38×1.30×1.32×
遊戲模擬 tick0.60×1.26×1.25×1.25×
關卡漫遊(導航網格和漫遊者巡遊)0.87×0.87×0.91×0.91×
3D 模型建置2.00×2.04×1.91×1.92×
幾何平均(21 項)1.12×1.22×1.24×1.25×

整體而言,Relax 執行的程式碼比 rustc 建置的程式碼慢:21 項工作負載的幾何平均執行時間,在 x64 上是原版 --release 的 1.12×,在 arm64 上是 1.24×;若與原生 CPU 建置版本相比,則分別是 1.22× 和 1.25×。Relax 只有少數工作負載較快。與原版相比,x64 上的剛體物理(0.43×)、遊戲模擬 tick(0.60×)和關卡漫遊(0.87×)較快;arm64 上則是 LLM 解碼主機路徑(0.87×)和關卡漫遊(0.91×)較快。x64 上兩項大幅勝出的工作負載,與原生建置版本相比就不再佔優(剛體物理 1.38×、遊戲模擬 tick 1.26×):這兩項勝出是相對於通用 CPU 基準測試而言。最慢的工作負載是 3D 模型建置,耗時約為 rustc 的兩倍。

核心微基準測試(30 項):穩態幾何平均值在 x64 上比原版慢 1.14×、比原生版本慢 1.24×,arm64 上約慢 1.23×。這些資料仍屬暫定,直到修正暖快取的分層升級錯誤為止:JIT 快取暖機後,部分熱門函式不會升級至 O3,因此核心資料可能顯得過慢,應視為上限。上方的 21 項工作負載表不受影響。

x64:8 核心桌上型 CPU、Linux;arm64:Apple M4 筆記型電腦、macOS。rustc 1.99.1、LLVM 23.1.1。每個數值是 3 輪測量的中位數,測量日期為 2026-11-12。原版是通用 CPU 的 cargo build --release;原生版本是搭配 -C target-cpu=native 的 --release。Relax 以預設模式計時,並在分層升級後的穩態下測量。x64 上的原版和原生欄位來自同一臺機器、同一組二進位檔的不同次測試。arm64 上的通用 CPU 已是 M 系列基準,因此兩個欄位的差異僅是雜訊。

比較哪個 --release?兩者都有測量:原版(cargo build --release,通用 CPU)和原生版本(-C target-cpu=native)。Relax 一律針對執行它的 CPU 進行編譯,因此原生欄位才是同條件比較。

差距的來源:從同一次 3D 列印切片器執行中,對相同函式進行指令層級比較可見,差距來自額外指令,而非停滯(指令成本為 1.26×,週期數為 1.15×)。

原因額外指令(切片器執行)
比較結果保留為布林暫存器,並重新計算~25 G
暫存器複製(雙運算元形式,合併未命中)~23 G
堆疊流量:迴圈狀態保留在堆疊槽位;可配置暫存器有 12 個,rustc 則有 15 個~22 G
額外的迴圈控制和檢查分支、不變條件測試留在迴圈內~13 G
載入未併入比較、i128 算術、重新生成的常數、較小的專案~33 G
產生的程式碼以外的執行時工作(memcpy、配置器包裝函式、TLS 存取、存根)~40 G
沒有迴圈向量化,展開幅度小數值核心差距的主要部分

函式內嵌不是原因:Relax 的內嵌程度高於 rustc。每一列都是一項工作。

Relax 用於開發迭代:正式版本建置使用 rustc。

架構

Relax 在單一程式中掌管整個流程,從原始碼位元組一路處理到可執行記憶體。它由多個層組成,每一層都是獨立的 crate,且只建置於下層之上;各層會平行編譯,而上層的變更永遠不會觸發下層重新建置。

Crate路徑用途在 rustc 的世界中
relax-lexlibs/relax/lexRust(所有版本)的詞法分析器與 token 模型,以及程式巨集所看到的內容。詞法分析器與 proc_macro
relax-baselibs/relax/base雜湊、記憶體用量統計與 arena、語法樹、cfg、資訊清單、Git 讀取路徑與來源掛載。Cargo 和 rustc 共用基礎架構的部分
relax-sessionlibs/relax/session編譯的輸入及其穩定雜湊:每個快取所依據的鍵。工作階段與增量編譯鍵
relax-frontlibs/relax/front剖析、crate 圖、名稱解析與巨集展開。剖析器、解析器、巨集展開
relax-typeslibs/relax/types型別、impl、型別檢查、配置、常數求值與借用檢查器。型別檢查器、借用檢查器、常數求值
relax-codegenlibs/relax/codegen以 RIR(Relax IR)為基礎的中階:O1 和 O3 最佳化器,以及多執行緒直譯器。MIR 最佳化與 LLVM 最佳化器
relax-backendlibs/relax/backend暫存器配置、x86-64 與 AArch64 機器碼、C ABI 規劃器與可執行記憶體。LLVM 程式碼產生器與連結器
relax-compilerlibs/relax/compilerJIT 執行階段與標準函式庫:延遲編譯、分層編譯、即時編輯、快取、程式巨集主機、測試執行器與 relax inspect。Cargo、rustc 驅動程式、測試框架與作業系統載入器
relax-native-macroslibs/relax/native_macros原生連結的程式巨集,並依其原始碼進行檢查。proc-macro 動態函式庫
屬性libs/relax/attr#[relax(O2)] / #[relax(O3)]:最佳化層級屬性;在 rustc 下不會產生作用。每個設定檔各有 opt-level
relax_apilibs/relax_api#[relax_api]:原生 crate 提供給 JIT 程式碼的介面,以及逐執行緒的堆積記憶體路由。(沒有對應專案:所有內容皆為原生)

函式的生命週期。在 main 之前,程式自身的 crate 會先進行型別檢查。函式首次被呼叫時就會編譯(使用直譯器或 O1);函式持續熱門時,會在背景重新編譯為 O3,然後切換過去。儲存對函式的變更時,Relax 會重新檢查變更內容、重新編譯並發布新程式碼;舊程式碼仍然有效,下一次呼叫就會執行新函式。

設計規則。 永不過時:每項快取結果都以其輸入的雜湊值作為鍵。程式碼只增不減:只要已發布的機器碼仍可能位於呼叫堆疊上,就不會釋放或改寫,因此切換程式碼是安全的;原生程式的熱過載技巧則不然。預設採用延遲編譯:Relax 只編譯你呼叫的內容,不會編譯所有可能用到的內容。可供檢視:每個階段都會回報正在執行的工作,因此可以根據記錄說明停滯原因。

儲存庫配置

Cargo.toml                              the workspace
libs/relax/
  lex/ base/ session/ front/ types/     front end and type system
  codegen/ backend/                     middle end and machine code
  compiler/                             runtime, std (compiler/std), 96 end-to-end test packages
  attr/ native_macros/                  #[relax(..)] and native proc macros
  KNOWN_GAPS.md                         what isn't supported yet
libs/relax_api/                         #[relax_api] and per-thread heap routing
tools/run/runner/                       relax, the command-line runner
libs/ platform/ tools/ widgets/         the small support crates Relax links: token model,
                                        serialisation, remote inspection, profiling, and the
                                        native proc macros it checks against their source

編譯器是 relax_compiler 函式庫(cargo build --release -p relax-compiler);relax(tools/run/runner)是它的命令列執行器。建置時只需要穩定版 Rust 工具鏈,不需要從 crates.io 取得任何內容。

授權條款

MIT,詳見 LICENSE。Relax 編譯的標準函式庫原始碼各自附有宣告;詳見 libs/relax/compiler/std/CREDITS.md 及其旁邊的授權檔案。

以 Rust 編寫的即時編譯器與 JIT 執行階段

Rust 不用 再 等待。

rustc 建置你的程式,接著你再執行它。 Relax 在建置程式的同時執行程式。

Relax 直接從原始碼執行 Cargo 套件,過程中不會用到 rustc、LLVM 或連結器。每個函式首次被呼叫時才會編譯,程式執行期間會最佳化常用函式,並將你的編輯內容套用到執行中的程式。

效能比較

Relax 與 rustc 相比

Relax

rustc + Cargo

取捨

JIT 會帶來的代價。

優點

JIT 能帶來的好處。

儲存即建置

執行中的程式

啟動後的影格數
修補次數
重新啟動次數

    試用看看

    建置並執行套件。

    所需工作

    全新的 Rust 工具鏈,從原始碼位元組到機器碼。

    工作專案 · 一般工具鏈的做法 · Relax 的做法

      Makepad 如何使用 Relax

      makepad run. 中的 Relax

      為 AI 代理打造

      持續執行的迴圈。

      Makepad

      實際應用

      速度

      Relax 與 rustc 的比較,採用實際工作負載。

      看看資料

      真實資料

      LLVM 仍然勝出之處。

      分層編譯與即時修補

      函式的生命週期。

      來源: Hacker News (official RSS) (makepad.github.io)
      開啟原文

      讀者討論

      理性交流 · 即時討論