Mistral AI：排查 vLLM 中的内存泄漏
Mistral AI 团队详细复盘了在 vLLM 分离部署测试中发现并解决隐蔽内存泄漏的完整过程。通过结合 pmap、BPFtrace 与 GDB 自动化脚本，团队最终定位到根源在于 UCX 内存管理模块的 mmap 钩子机制与注册缓存队列。通过设置环境变量 UCX_MEM_MMAP_HOOK_MODE=none 或限制未释放区域数量，成功解决了该内存泄漏问题。
推薦理由：文章详细记录了排查 vllm 分离部署中隐蔽内存泄漏的过程，读者可以学习如何通过 pmap 与 GDB 组合定位底层系统调用问题。