宣稱批次上限無效：實測才證實真實併發度
An advertised batch limit proves nothing until sampled
重點導讀
導語：本文說明即使伺服器健康端點報告「batch_limit: 4」，實際可併發生成數仍可能低於此值，並提供完整探測方法以驗證真實併發度。
- 實際併發：在兩個原型中，峰值併發工作數分別為 2（單鎖）與 4（移除
gen_lock並啟用多序列化器）。
AI 伴隨問答
針對這篇報導有疑問？可直接點選快捷問題或向 AI 追問背景脈絡與技術細節：
信源出處dev.to
An advertised batch limit proves nothing until sampled
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： Dev.to Top Tech (dev.to)
開啟原文