跳到正文

#強化學習規模化

RSS
今日 0 則
10月13日週二
  1. Sequoia Capital🎙️ Podcast85

    Ineffable Intelligence 的 David Silver 與 Lasse Espeholt:經驗時代的超級學習者

    AlphaGo 與 AlphaZero 背後的推手 David Silver 已離開 DeepMind,與人共同創辦 Ineffable Intelligence。這家實驗室押注的是:超智慧將從強化學習代理中誕生,而這些代理會從經驗中自行發掘一切知識,而非仰賴人類語言資料。在這場與主持人 Sonya Huang 的對談中,Silver 與共同創辦人 Lasse Espeholt 完整鋪陳了捨棄 LLM 路線的技術論據、他們正在打造的架構,以及罕見地具體的時間表:一年內取得該方法可行的強力證據,三年內實現真正的超智慧。本集內容主要圍繞研究哲學與基礎設施;標題所稱的「超級學習者」框架確實貼切,但當

10月10日週六
  1. No Priors🎙️ Podcast85

    Beam:美國最強開放模型,專訪 Reflection AI 共同創辦人暨執行長 Misha Laskin

    Reflection AI 共同創辦人暨執行長 Misha Laskin 表示,公司過去 12 個月從零打造了一座前沿實驗室——團隊從一年前約 30 人成長到現在約 300 人——並推出了 Beam,一個 500B 引數的開放權重模型(活躍引數 23B),以 6,000 顆 GB300 訓練數週完成,強化學習階段則動用超過 10,000 顆 GB300、跑了四週。本集節目主要是一份實作紀錄:在美國打造前沿開放模型需要什麼、開放與閉源模型各自如何商業化,以及 Laskin 為何認為開放是更安全的預設值。標題的「偉大的美國開放模型」框架說得通,但視角偏窄:整場對話橫跨訓練成本膨脹、中國開放權重模型