AI 開始協助打造下一代 AI,作者分析自我改進的做法與風險
Who Builds the Next Model?
重點導讀
AI 已開始幫忙寫程式、改提示詞、整理可重用的工具,甚至加快模型訓練;文章把這些做法分成幾種層次,從重試答案到修改自身程式都有。
- 像 AlphaEvolve 找出讓 Gemini 訓練快 1% 的計算方式,顯示 AI 也能改善打造 AI 的流程。
- 麻煩在於,系統會朝評分方式努力:如果分數設錯,AI 可能學會騙過檢查,分數變高,行為卻沒變好。
- 作者認為,能訂出好目標、寫出 AI 騙不過的測試,並看出錯誤改變,會愈來愈重要。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處oreilly.com
Who Builds the Next Model?
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: O'Reilly Radar (oreilly.com)
開啟原文