Maxwell:程式與硬體之間的新型模型
Maxwell: A new kind of model that sits between code and hardware
Maxwell 是一款能在執行時即時重寫程式碼並進行形式驗證的模型,能在 CPU 與 GPU 上將資料處理與 AI 推理速度提升數倍。
- 效能提升:資料處理管線加速 38 倍,AI 推理核加速 4.25 倍,4K 影片生成速度提升 1.87 倍。
Maxwell 透過即時程式重寫與形式驗證,將 AI 推理與資料處理速度提升數倍,讀者可參考其自動化最佳化方法以提升工作流程效能。
由 doubleAI
Maxwell 在程式執行時理解並改程序式碼,會推理硬體與資料,而不只是程式碼。每一次改進都經過正式證明與原始程式碼等價。閱讀宣言
- 38×更快的資料處理流程
- 4.25×更快的 AI 推論核心
什麼是程式執行模型?
一部短片動畫,配有旁白與字幕,介紹 Maxwell:大多數程式碼從未見過它執行的硬體或處理的資料。Maxwell 觀看程式執行時,重新編寫底層二進位,以符合該特定機器與資料,並正式證明每一次改進等價於原始程式碼。它可在 CPU 與 GPU 上執行,加速資料流程與 AI 推論核心。
特色客戶
LTX-2.5 以一半時間產生 4K 影片
LTX 從一開始就為效率打造 LTX-2.5,端到端編譯,sequence-parallel 於 GPU 上,使用 hand-written 注意力核心進行解碼。由頂尖人類專家打造並最佳化的流程。Maxwell 使他們的 4K 產生速度幾乎翻倍。
- 1.87×更快的 4K 影片產生
- 134s每段 4K 影片在兩臺 B200 上,較 250s 減少
Maxwell 的示範
觀察 Maxwell 在 GPU 與 CPU 程式碼最佳化的實際操作。當 Maxwell 擁有足夠執行時資料後,會在程式繼續執行時,切換至正式證明等價的最佳化,並針對該特定機器調整。
兩個終端在同一臺 RTX 4090 上執行相同的 Python 指令碼:從冷啟動開始使用 Whisper-small 進行 180 次文字轉錄。未使用 Maxwell 時,左側耗時 106.23 秒;使用 Maxwell 時,右側完成於 49.82 秒。兩者產生相同的文字稿。錄製以 4 倍速度播放。
兩個終端在同一臺機器上執行相同的 Python 指令碼:NetworkX 結點之間中心性,15 次執行。未使用 Maxwell 時,左側耗時 61.44 秒;使用 Maxwell 時,右側完成於 17.50 秒。兩者印出相同結果。錄製以 4 倍速度播放。
Maxwell 的研究背景
Maxwell 接近 Blackwell 的光速
經過一天搜尋,Maxwell 在 90% 的 SOL-ExecBench Blackwell 核心上,超越 NVIDIA 的 PyTorch 基準。
(opens on doubleai.com)doubleAI 的 Maxwell:在大規模上超越 Expert-Written 核心
獨立產生並驗證一個高度最佳化的 NVIDIA cuGraph drop-in 版本,平均快 3.6 倍。
(opens on doubleai.com)火速 pandas,無需改動任何一行
Maxwell 從零開始完全重寫 pandas 核心,專為現代硬體最佳化。
(opens on doubleai.com)