AI 功能開始在手機和筆電上運作:隱私、省錢又不怕沒網路
More of the AI in Your Product May Run on the User's Own Device
重點導讀
以前產品加上 AI,常得把文字或圖片送到資料中心,等大型模型回答;現在有些 AI 功能能直接在手機或筆電上跑。
- 像是整理訊息、建議回覆、分類照片,都可以交給較小的模型處理。
- 遇到比較難的問題,再送到伺服器。資料留在裝置上,隱私更好,也能省下每次向伺服器提出要求的費用,沒訊號時仍可使用。不過,小模型不擅長長篇推理和廣泛知識,舊裝置也可能跑不動。開發者得想清楚哪些工作適合在裝置上做,並老實告訴使用者 AI 實際在哪裡運作。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
More of the AI in Your Product May Run on the User's Own Device
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文