OpenAI 首席科學家提議用困惑度衡量 AI 發展速度
OpenAI’s chief scientist has thoughts on how to limit AI development
重點導讀
AI 公司若要限制發展速度,得先有大家都能採用的衡量方式。
- OpenAI 首席科學家 Jakub Pachocki 在新文章中提出用「困惑度」觀察模型預測下一個 token 的能力,數值越低代表預測越好。
- 他認為,許多追蹤模型實際能力的基準很快就會過時,困惑度則仍能提供有用資訊。
- 依他的構想,各家公司可以用它作為共同標準,在理解和監控 AI 行為達到具體里程碑前,約定不超過某個門檻。
- 這是 Pachocki 提出的做法,並非已經達成的協議。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
以困惑度衡量模型預測能力,並提出把它作為共同進度標準的構想,呈現限制 AI 發展速度的一種具體做法。
信源出處techcrunch.com
OpenAI’s chief scientist has thoughts on how to limit AI development
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: TechCrunch · AI (techcrunch.com)
開啟原文