Redwood Research 探討如何界定 AI 公司的能力研發活動
How should we define “capabilities activities” for the purpose of pacing?
重點導讀
若要限制 AI 公司用多少算力推進模型能力,得先說清楚哪些工作算能力研發。
- Redwood Research 提出一套分類方法:原則上,公司的工作都算能力研發,只有閒置算力、狹義產品開發、服務客戶和部分安全工作等例外。
- 這些例外也不能提升通用模型能力。像是評估模型是否對齊、監測不良行為可列為狹義安全工作,但改善模型的安全訓練或執行能力評測仍算能力研發。作者也指出,界線難免模糊,因此需要第三方查核,並視情況調整分類。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
這套分類把算力用途預設為能力研發,只排除幾類狹義工作,呈現如何在限制前沿進展與保留安全研究空間之間劃界。
信源出處blog.redwoodresearch.org
How should we define “capabilities activities” for the purpose of pacing?
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Redwood Research Blog (blog.redwoodresearch.org)
開啟原文