用大型語言模型找重複客服單,筆數增加會讓成本暴增
Asking an LLM "are these two tickets duplicates?" costs $111 for 1,000 tickets and $11,130 for 10,000
重點導讀
客服單越多,逐張詢問大型語言模型哪些內容重複,費用就可能漲得很快。
- 作者用 GPT-5.6 的價格估算,逐一比較 1,000 張客服單要花 $111.20,10,000 張則要 $11,130。先讓模型把每張單分到 20 類,再只比較同類內容,假設各類數量平均,10,000 張的比對費用可降到 $558。這種做法省錢,但若相同問題被分到不同類,就不會互相比對,可能漏掉重複單。
- 作者建議先用已知答案的客服單檢查漏掉多少,並留意特別大的分類。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Asking an LLM "are these two tickets duplicates?" costs $111 for 1,000 tickets and $11,130 for 10,000
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文