LLM Invalid JSON & Structured Output

本文說明瞭為何 LLM 會偶爾返回無效 JSON，並比較結構化輸出與驗證重試兩種解決方案。 - 主要原因：截斷、程式碼框架或語言插入、架構漂移。 - 結構化輸出：提供受限解碼，消除程式碼框架與架構漂移，仍可能截斷。