如何在 Azure 部署 DeepSeek-R1 和 Qwen,沒人使用時自動停機省費用
How to Deploy DeepSeek-R1 & Qwen on Azure with Scale-to-Zero ($0 Idle Bill)
重點導讀
自行架設 DeepSeek-R1、Qwen 這類開放模型,可以讓資料留在自己的環境裡,但 Azure 的 GPU 虛擬機器若整天開著,就算半夜沒人使用也會一直花錢。
- 這篇教學用 FastAPI 做一個入口,部署到 Azure Container Apps。
- 連續 5 分鐘沒有請求,服務就會停下來,閒置時的運算費用是 $0。有人送出請求時,Azure 會重新啟動服務,第一次要等約 25–35 秒,之後就能逐段顯示回答。原本使用 OpenAI SDK 的程式只要改連線網址,就能呼叫這個入口。
- 適合想自己架設模型、又不想讓服務整晚空轉的團隊。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
How to Deploy DeepSeek-R1 & Qwen on Azure with Scale-to-Zero ($0 Idle Bill)
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文