Base64 圖片塞進提示詞,為什麼會多花這麼多 token?
A 133 KB image pasted into my prompt as text cost 122,584 tokens
重點導讀
把圖片藏在 HTML 或 JSON 裡一起送進提示詞,可能讓模型讀到大量文字,增加費用,甚至讓請求超出上下文視窗。
- 作者測量 PNG 圖片轉成 Base64 後,每 KB 約會用掉 920 個 token。
- 一張 133 KB 的圖片就用了 122,584 個 token。文章示範用程式移除這些長字串,並留下簡短標記。
- 如果模型需要看圖,應把圖片當圖片傳送。這種清理方式也可能誤刪長雜湊或程式碼,實際 token 數則會因模型使用的 tokenizer 而不同。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
A 133 KB image pasted into my prompt as text cost 122,584 tokens
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文