Liquid AI 釋出 LFM2.5-VL-DSpark 視覺語言模型草稿模型
Accelerating vision-language models with LFM2.5-VL-DSpark
重點導讀
Liquid AI 針對視覺語言模型 LFM2.5-VL-3B 釋出了實驗性的 DSpark 草稿模型,通過引入投機解碼路徑實現推理加速。
該草稿模型包含 2.8 億引數(增量 8.9%),在端側和 GPU 上解碼速度最高可提升 3.13 倍,並且首日即整合支援 llama.cpp、MLX-VLM 和 SGLang。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處huggingface.co
Accelerating vision-language models with LFM2.5-VL-DSpark
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Hugging Face Blog (huggingface.co)
開啟原文