🔬Bio-security is an AI Arms Race - Eric Nguyen (CEO, Radical Numerics)

OpenAI → Hugging Face 的攻擊讓人們開始問「還有什麼我們需要擔心的？」Anthropic 的過濾器則標示兩項：網路安全與生物學。自然的問題是：那麼生物安全呢？Clem Delangue 認為網路戰爭的防禦能力必須公開，並且與前沿模型的攻擊能力保持同步。Radical Numerics 的共同創辦人 Eric Nguyen 與我們會面，並解釋為何同樣能提升生物能力的模型，也能防止防禦落後。從零開始構建病毒：在斯坦福期間，Eric 長時間無法讓基因語言模型（GLMs）受到關注。生物學家不相信它能奏效，也不認為能驗證輸出，更看不見超出他們現有能力的重要應用。他持續推動，最終協助開發 Evo，並在 Arc Institute 貢獻 Evo‑2。後來，另一個 Arc/Stanford 團隊使用這些模型生成整個噬菌體基因組，並將其合成為功能性病毒！長上下文解鎖生物智慧：早期的 ChatGPT 能輸出詩歌和電子郵件，早期的 DNA 語言模型如 Evo 與 Evo‑2 也能從零開始構建基因組。然而，DNA 與自然語言不同之處在於它的字母表極小（4 個字元 ACTG），且其序列極長：* 60K 為平均人類基因 * 長度可達 2.3M * 整個人類基因組約 3B。長上下文模型的創新在約三年前就實現了這一點（腳註：條紋鬣狗），遠早於前沿實驗室開始構建 1M+ 上下文模型。現在，Eric 以及其他 AI 與生物領域的重量級人物成立了 Radical Numerics，致力於構建和擴充套件 GLMs，解決廣泛的生物問題，遠遠超出單純生成 DNA。以 DNA 為思考語言：他們的 GLMs 在 RNA 與蛋白質方面已相當出色，因為 DNA 序列中有明確的基因標記（RNA 序列執行多種功能）以及編碼蛋白質的特定基因。這意味著模型已經能夠泛化到多種「語言」，甚至在嘗試訓練其他模態（如 3D 蛋白質結構、表觀遺傳學和自然語言）之前。若模型以 DNA 語言思考，或許它也能理解環境在不同基因組上留下的烙印？也許模型已經學會了不同序列之間的功能關係，並能根據此推斷新序列？因此，我們想展示的是，如果我們以一系列步驟呈現逐漸更優的 RNA，並給出其分數，對吧？你先給低分，然後逐步提升。模型能否自行繼續這一路徑？最後一步，它是否能自我最佳化到最佳分數？那就是實驗。我們能做到嗎？於是我們採取了一個大型 aptamer 資料集。我們保留了一部分表現最佳的樣本，只展示較差的，然後再對其進行排序，對吧？我們展示低分的 RNA aptamer，然後逐步提升，最後要求模型繼續這種模式。結果它能夠再現我們尚未展示的更高分數。所以，瞧！思路鏈，DNA 思考！軍備競賽：正如長上下文推理、思路鏈和多模態感知在自然語言 LLM 中解鎖了複雜推理，GLM 中的這些能力正使「生物智慧」日益精細，隨之而來的是更大的風險。根據 Eric 的說法，防禦目前正處於失利，但 Radical Numerics 主張更猛烈推進前沿！我不會透露細節。在本集裡，我們詳細討論：* 生物安全作為軍備競賽 — 以及防禦如何跟上 * 基因組作為環境在 DNA 上的烙印 * 真正的多模態 * 思路鏈在「以 DNA 語言思考」時如何運作 這是一集公開節目。如想與其他訂閱者討論或取得額外集數，請造訪 www.latent.space/subscribe