跳到正文
𝕏 SenseTime(x.com)·· 4 天前品質評分44
重點導讀

SenseNova-Loop-9B 有更多執行方式!🔹 4-bit AWQ(約 4.9 GB),並搭配相應的 MTP 草稿模型🔹 GGUF 提供 Q4_K_M、Q5_K_M、Q8_0 和 BF16 格式,可搭配我們的 llama.cpp fork 使用

🤗 AWQ: https://t.co/wFJPxUVTnA🤗 GGUF: https://t.co/oaZ6vjVDDz

💬 試用看看,並分享你的意見!

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

SenseTime
SenseTime@SenseTime_AI
·4 天前
𝕏

More ways to run #SenseNova-Loop-9B!
🔹 4-bit AWQ (~4.9 GB), with a matching MTP draft model
🔹 GGUF in Q4_K_M, Q5_K_M, Q8_0 and BF16, for use with our llama.cpp fork

🤗 AWQ: https://t.co/wFJPxUVTnA
🤗 GGUF: https://t.co/oaZ6vjVDDz

💬 Give them a try and share your feedback!

推文來源 · X (Twitter)在 X 參與討論
來源: SenseTime (x.com)
在 X 查看推文

讀者討論

理性交流 · 即時討論