Hugging Face Blog·· 7 天前AI 評分58
Liquid AI 釋出 LFM2.5-VL-DSpark 視覺語言模型草稿模型
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 導讀
Liquid AI 針對視覺語言模型 LFM2.5-VL-3B 釋出了實驗性的 DSpark 草稿模型,通過引入投機解碼路徑實現推理加速。
該草稿模型包含 2.8 億引數(增量 8.9%),在端側和 GPU 上解碼速度最高可提升 3.13 倍,並且首日即整合支援 llama.cpp、MLX-VLM 和 SGLang。
來源:Hugging Face Blog · huggingface.co