bf16.ai 分享雙層模型分流設定,讓 AI 助理以較低成本執行寫程式工作
AI 助理寫程式時,常把大量時間花在讀檔案、跑測試和修正小錯誤,反覆送出長提示詞也會讓費用快速增加。bf16.ai 分享一種雙層分流做法:平常讀檔、修改和測試交給便宜又快速的 DeepSeek V4.1 Flash Fast,遇到複雜設計或難查的錯誤時,再換成 Kimi K3.1 Pro 或 GLM-5.3。文章舉例,在 30 輪、每輪都讀取約 100K token 專案資料的工作中,重複使用已讀過的內容,可把 DeepSeek V4.1 Flash Fast 的輸入費用降到每 1M tokens $0.055。這種分工能省下日常開發費用,但複雜又模糊的設計問題,仍要交給較強的模型處理。