重點導讀
加入我們的直播,下週二,學習如何將模型壓縮至筆電可容納,並讓它們咻咻執行 💨我們將邀請 @mervenoyann @maximelabonne @TadimetiAditya @bartowski1182 以及 @mgoin_,提供 llama.cpp 與 vLLM 量化的基礎知識與實作技巧 ⚡️ https://t.co/JXjQUouVM4
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Hugging Face@huggingface
·3 小時前
Join us in this livestream next Tuesday, learn how to shrink models to fit in your laptop and make them go brrr 💨
We will have @mervenoyann @maximelabonne @TadimetiAditya @bartowski1182 and @mgoin_ giving a primer and know-hows on quantization with llama.cpp and vLLM ⚡️ https://t.co/JXjQUouVM4
推文來源 · X (Twitter)在 X 參與討論
來源: Hugging Face (x.com)
在 X 查看推文