Mistral AI：排查 vLLM 中的記憶體洩漏
Mistral AI 團隊詳細復盤了在 vLLM 分離部署測試中發現並解決隱蔽記憶體洩漏的完整過程。通過結合 pmap、BPFtrace 與 GDB 自動化指令碼，團隊最終定位到根源在於 UCX 記憶體管理模組的 mmap 鉤子機制與註冊快取佇列。通過設定環境變數 UCX_MEM_MMAP_HOOK_MODE=none 或限制未釋放區域數量，成功解決了該記憶體洩漏問題。
推薦理由：文章詳細記錄了排查 vllm 分離部署中隱蔽記憶體洩漏的過程，讀者可以學習如何通過 pmap 與 GDB 組合定位底層系統呼叫問題。