189: Geodesic顧全全:預訓練有點“無聊”了,但用scaling改變AI製藥才剛開始
189: Geodesic顧全全:預訓練有點“無聊”了,但用scaling改變AI製藥才剛開始
「The best model is yet to come, scaling continues.(最好的模型尚未到來,規模化仍在繼續。
- )」 今年 6 月 ,顧全全發推宣告離開位元組,推文的最後一句如此寫道。 這句話串起了他在位元組 3 年多的工作:一是 AI 製藥,他帶團隊做出了蛋白質結構預測模型 SeedFold 和蛋白質設計模型 SeedProteo。
- 一是豆包的預訓練,2025 年初,他的團隊開始負責其中的 scaling 與最佳化部分。 不久後,我們在 6 月中旬於矽谷採訪了顧全全,當時他正在籌備 AI 製藥方向的創業。 今年 9 月,這家新公司 Geodesic Intelligence 亮相,釋出了藥物發現AI 助理平臺 NovaDDE,以及 NovaAtom-Lite-Preview。11 月 10 日,Geodesic 又更新了全原子結構預測模型 NovaAtom-Lite。 顧全全的離職引起了一些爭議。他自稱位元組 AI 製藥負責人和 Seed 預訓練的”最佳化與規模化“負責人(optimazation & scaling lead)。而此後有媒體的報道暗示,接近位元組的人士並不認。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
「The best model is yet to come, scaling continues.(最好的模型尚未到來,規模化仍在繼續。)」 今年 6 月 ,顧全全發推宣告離開位元組,推文的最後一句如此寫道。 這句話串起了他在位元組 3 年多的工作:一是 AI 製藥,他帶團隊做出了蛋白質結構預測模型 SeedFold 和蛋白質設計模型 SeedProteo;一是豆包的預訓練,2025 年初,他的團隊開始負責其中的 scaling 與最佳化部分。 不久後,我們在 6 月中旬於矽谷採訪了顧全全,當時他正在籌備 AI 製藥方向的創業。 今年 9 月,這家新公司 Geodesic Intelligence 亮相,釋出了藥物發現AI 助理平臺 NovaDDE,以及 NovaAtom-Lite-Preview。11 月 10 日,Geodesic 又更新了全原子結構預測模型 NovaAtom-Lite。 顧全全的離職引起了一些爭議。他自稱位元組 AI 製藥負責人和 Seed 預訓練的”最佳化與規模化“負責人(optimazation & scaling lead)。而此後有媒體的報道暗示,接近位元組的人士並不認可這種表達。 我們在節目中直接討論了:大公司如何組織不同方向的研究,為什麼存在對 “負責人” 的不同定義。 顧全全說,離開的原因之一是 “有點兒無聊” 了。他認為預訓練仍有大量要完善的細節和創新空間,但秘密正在減少,工程和組織能力在競爭中的比重越來越大。“方案很早就出現了,但團隊要花幾個月論證、形成共識,再推進。” 而 scaling 本身仍有巨大空間,“scaling continues” 就是新方向:把大模型上驗證的 scaling 方法帶進更多領域。 在顧全全眼中,AI 製藥就是一個數據量巨大,但卻仍未被 scaling 思路改造的富礦。他說這次創業,前六個月的算力花費就需要 1000 萬美元。 與 Anthropic 的判斷一致,顧全全也認為做 AI 製藥必須自己掌握 “溼實驗室”。因為從模型設計出候選分子到真的發現新藥,還要通過溼實驗來驗證親和力、成功率、毒性、可合成性和特異性……而實驗結果又能作為獎勵訊號,進入模型後訓練。 在顧全全離職前後,字節跳動還走出了數家 AI 製藥公司,包括肖文之創立的 Molence Bio,以及在位元組官方支援下獨立融資,由劉凱創立的 Anew Labs。 本期,我們從顧全全離開位元組聊起,拆解基模當下的 scaling 狀態和預訓練如何組織; AI for Science 能否出現一次類似 AI coding 的躍遷。最後,我們回到學界與工業界之間:當榜單把不同 “門派” 拉上同一擂臺,什麼才算有野心的研究? 本期嘉賓: 顧全全,Geodesic Intelligence 創始人 本期主播: 程曼祺,《晚點 LatePost》科技報道負責人 本期剪輯:吳宇量 時間線跳轉: -在位元組 3 年:AI 製藥與基模預訓練 00:59 為什麼離開位元組:AI 製藥與預訓練的雙線經歷 02:52 三個 AI for 製藥團隊為何一度在位元組內並行 11:21 為什麼押注 AI for Science 14:04 Chai-2 改變了什麼:從結構預測走向抗體與蛋白質設計 22:57 新方向:把 scaling 帶進 AI 製藥 -預訓練越來越像 “蓋樓”:秘密少了,較量在組織與執行 24:46 25 年初加入豆包預訓練:解決 scaling 和訓練穩定性 28:06 何謂 “訓飛”?為何中國大模型團隊去年至今普遍遇到訓練波折 32:52 四類團隊協作 “蓋樓”:資料、架構、最佳化與 Infra 37:00 位元組為什麼禁止蒸餾:短期能力與世界第一的取捨 42:13 預訓練還有多少秘密和訣竅? 46:28 “已經有點兒無聊了” 51:06 位元組投入 coding,為什麼看起來晚 -把 scaling 帶進蛋白質設計,算力之外還缺一座溼實驗室 55:04 公開資料多、算力投入少:生物模型是 scaling 的 “窪地” 57:39 蛋白質語言模型 vs 結構設計模型 01:02:51 為什麼必須自建溼實驗室? 01:07:08 商業模式設想:自己做藥,也向藥企提供模型:按任務價值收費 01:13:28 AI for Science 能否複製 AI coding 的躍遷 -學界與工業界之間:從 “門派不同、互不踢館” 到走上同一座擂臺 01:14:28 大模型熱潮如何擊穿學界 01:17:49 現在還值得讀博士嗎? 01:22:28 “用差異化追求掩蓋了都很菜的事實” 01:32:58 仍會研究那些多年沒解決的理論問題,這是 “大腦的保健操” 相關連結: 140 期:深勢科技張林峰、孫偉傑:AI for Science,從開始到現在 150 期:年末 AI 回顧|從模型到應用、從技術到商戰,拽住洪流中的意義之線 183 期:與 Henry 的「AI 季報 26Q3」:Muse 引爆個人助理、Astra 進入機器人、OpenAI 收入猛增 附錄:本期出現的公司、模型、人物與技術術語 -技術術語 靶點(target):藥物希望干預的生物物件,常見的靶點是與疾病機制相關的蛋白質。模型設計 binder 或藥物分子時,通常需要先給定靶點資訊。 Binder:能夠與目標分子特異結合的蛋白質或其他分子。蛋白質 binder 設計的目標,是直接生成能與指定靶點結合的候選序列與結構。 結構預測 / 結構設計:結構預測從分子序列等資訊推斷三維結構;結構設計則從目標功能或結合關係出發,反向生成滿足要求的分子結構與序列。 顧全全團隊在位元組期間做的 SeedFold,就是一個生物分子結構預測模型,典型的還有 AlphaFold 系列。 同由顧全全團隊做的 SeedProteo,則是一個全原子蛋白質 binder 設計模型。 本期還聊到了肖文之團隊在位元組期間做的開源結構預測與設計模型 Protenix。 蛋白質語言模型(protein language model):把胺基酸序列視為符號序列進行訓練的模型,可學習蛋白質的結構、功能和進化資訊。它建模的核心物件是序列,而結構模型建模的物件是三維原子結構。 顧全全團隊在 Seed 期間做的 DPLM 就是一個擴散蛋白質語言模型;這類模型的代表還有節目中提及的 Meta 做的 ESM。 溼實驗(wet lab):在真實實驗室中進行生物、化學實驗。 CRO(Contract Research Organization,合同研究組織):為藥企或生物科技公司提供實驗、臨床研究等外包服務。 Hit rate:在蛋白質設計中,通常指被驗證能與目標結合的候選佔比。 親和力(binding affinity):衡量兩個分子結合強弱的指標。但這個指標不能單獨證明候選物最終能成為藥物。 特異性(specificity):候選分子優先結合目標靶點、儘量不與其他分子發生非預期結合的能力。 -公司、機構、模型與專案 Geodesic Intelligence:顧全全創立的 AI 製藥公司,目前已釋出藥物發現平臺 NovaDDE,以及可預測蛋白質、DNA、RNA 與小分子配體複合物結構的全原子模型 NovaAtom-Lite。 Chai Discovery:2024 年成立的 AI 藥物設計公司,聯合創始人包括 Joshua Meier 等。公司先後釋出 Chai-1 和 Chai-2:前者聚焦多模態生物分子結構預測,後者進一步面向從頭抗體、奈米抗體和 mini-binder 設計。 Latent Labs:由前 Google DeepMind AlphaFold 團隊成員 Simon Kohl 創立的生成式生物學公司,研發蛋白質設計模型 Latent-X、Latent-X2 和藥物設計AI 助理 Latent-Y。 Boltz PBC:源於 MIT 研究團隊的生物分子 AI 公司,釋出過開源結構預測模型 Boltz-1、Boltz-2,後續推出 BoltzMol、BoltzProt 等分子與蛋白質設計模型。 AlphaFold 2 到 AlphaFold 3 的發展:AlphaFold 2 是蛋白質結構預測的突破式進展;AlphaFold 3 將預測範圍擴充套件到蛋白質、DNA、RNA、配體等多類分子及其相互作用。本期中提到的 Pairformer 是 AlphaFold 3 架構中的核心模組。 Isomorphic Labs 和 IsoDDE:Alphabet 旗下 AI 製藥公司,由 Demis Hassabis 創立並擔任 CEO,該公司推出了IsoDDE(Isomorphic Labs Drug Design Engine),是由多種預測與生成模型組成的統一藥物設計系統。 Absci:美國生成式 AI 製藥公司,重點做從頭設計抗體等生物藥物;Chai Discovery 聯合創始人 Joshua Meier 曾在此任職。 Baseten:成立於 2019 年的 AI 基礎設施公司,為模型訓練、部署和高效能推理提供平臺與多雲算力服務。 英矽智慧(Insilico Medicine):以生成式 AI 和自動化平臺推進靶點發現、小分子設計與臨床管線的 AI 製藥公司。 晶泰科技(XtalPi):以 AI、物理建模和自動化實驗平臺服務藥物與材料研發。 BindCraft:David Baker 團隊成員參與開發的一次性蛋白質 binder 設計方法,把結構生成、序列設計與計算篩選組合成一套流程。 NVIDIA Cosmos:輝達面向物理 AI 的世界基礎模型與工具體系。節目以其多模態理解和生成能力為例,討論通用基礎模型能否吸收垂直模型。 -人物 John Jumper:AlphaFold 2 核心負責人之一,與 Demis Hassabis 共同獲得 2024 年諾貝爾化學獎;2026 年離開 Google DeepMind,加入 Anthropic。 David Baker:華盛頓大學教授、Institute for Protein Design 主任,長期研究計算蛋白質設計,與 Demis Hassabis、John Jumper 共同獲得 2024 年諾貝爾化學獎。 Kevin Weil:OpenAI for Science 副總裁,曾任 OpenAI 首席產品官,本期我們引用了他對 AI for Science 發展節奏的判斷。最近他官宣了離開 OpenAI 後創立的新公司 Warp Sciences。 小紅書@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚點聊 LateTalk》建立「 播客聽友群」啦!☆ 歡迎關注科技、商業大公司動態和創業創新的小夥伴進群交流,第一時間收聽新節目。 這裡有更多互動,更多話題討論。歡迎貢獻選題 & 推薦嘉賓。 請先新增「晚點」小助手的微訊號,備註:“晚點聊”,我們邀請您入群。 關注公眾號《晚點 LatePost》和《晚點對話》,閱讀更多商業、科技文章: