跳到正文
Dev.to Top Tech(dev.to)· Andrey Altrouter·· 9 天前品質評分68

用大型語言模型找重複客服單,筆數增加會讓成本暴增

Asking an LLM "are these two tickets duplicates?" costs $111 for 1,000 tickets and $11,130 for 10,000

重點導讀

客服單越多,逐張詢問大型語言模型哪些內容重複,費用就可能漲得很快。

  • 作者用 GPT-5.6 的價格估算,逐一比較 1,000 張客服單要花 $111.20,10,000 張則要 $11,130。先讓模型把每張單分到 20 類,再只比較同類內容,假設各類數量平均,10,000 張的比對費用可降到 $558。這種做法省錢,但若相同問題被分到不同類,就不會互相比對,可能漏掉重複單。
  • 作者建議先用已知答案的客服單檢查漏掉多少,並留意特別大的分類。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

Asking an LLM "are these two tickets duplicates?" costs $111 for 1,000 tickets and $11,130 for 10,000

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論