跳到正文
熱點事件持續更新

RAG top_k increase raises cost 2.7x

1 篇報導1 個報導來源3 小時前更新

先了解這件事

重點綜述

top_k 從 5 提升至 20,RAG 回答成本平均上升 2.7 倍,月成本可達 7,140 美元。

  • - 成本構成:輸入 400 token + 500 token chunk × top_k + 250 token 回答。
  • GPT‑5.6 內部價格為 $2 / 1M 內部 token,$12 / 1M 輸出 token。

根據報導自動生成 · 3 小時前更新

報導時間線

沿著報導,瞭解事件的不同面向。

11月6日
  1. Dev.to Top Tech
    將 top_k 從 5 提升至 20,RAG 回答成本飆升 2.7 倍

    top_k 從 5 提升至 20,RAG 回答成本平均上升 2.7 倍,月成本可達 7,140 美元。 - 成本構成:輸入 400 token + 500 token chunk × top_k + 250 token 回答;GPT‑5.6 內部價格為 $2 / 1M 內部 token,$12 / 1M 輸出 token。

本事件熱度趨勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。

讀者討論

針對此事件的各方觀點與即時反饋