跳到正文
Dev.to Top Tech(dev.to)· Faizal Bagwan·· 8 天前品質評分42

如何在 Azure 部署 DeepSeek-R1 和 Qwen,沒人使用時自動停機省費用

How to Deploy DeepSeek-R1 & Qwen on Azure with Scale-to-Zero ($0 Idle Bill)

重點導讀

自行架設 DeepSeek-R1、Qwen 這類開放模型,可以讓資料留在自己的環境裡,但 Azure 的 GPU 虛擬機器若整天開著,就算半夜沒人使用也會一直花錢。

  • 這篇教學用 FastAPI 做一個入口,部署到 Azure Container Apps。
  • 連續 5 分鐘沒有請求,服務就會停下來,閒置時的運算費用是 $0。有人送出請求時,Azure 會重新啟動服務,第一次要等約 25–35 秒,之後就能逐段顯示回答。原本使用 OpenAI SDK 的程式只要改連線網址,就能呼叫這個入口。
  • 適合想自己架設模型、又不想讓服務整晚空轉的團隊。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

How to Deploy DeepSeek-R1 & Qwen on Azure with Scale-to-Zero ($0 Idle Bill)

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論