E246｜何謂蒸餾？聊聊矽谷如何看中國開放模型逼近前沿

7月27日，月之暗面正式釋出Kimi K3的完整模型權重。自7月16日API上線以來，K3就在在多項測試中展現出接近前沿模型的能力。因此，它成為了矽谷最近討論開源時的重要案例之一。從2025年初的DeepSeek時刻，到當下的Kimi K3，中國開源模型正在從成本更低、能力稍弱的替代品，逐漸逼近甚至超過最強的閉源前沿模型。 隨之而來的，是一場越來越激烈的蒸餾爭論。什麼是蒸餾？通過閉源模型的輸出進行訓練，和未經授權的大規模能力提取，有什麼區別？即使中國實驗室使用過美國模型生成的資料，它又究竟能解釋多少最終能力？ 本期播客，我們邀請到兩位嘉賓來分別從開源生態和企業的視角，討論這一波中國開源模型的影響：前Hugging Face亞太開源生態負責人王鐵震，和TinyFish聯合創始人Keith Zhai。 我們從K3帶給矽谷的挑戰聊起，討論了為什麼把中國模型的進步全部歸因於蒸餾，實際上忽略了架構、強化學習、資料工程和推理基礎設施上的創新。而當蒸餾從一種中性的訓練技術，變成商業競爭和政策討論中的指控時，爭議的核心又變成了什麼？ 在此之外，我們也討論了K3針對大型推理服務商設計的商業授權：當開源權重模型持續壓低成本，它會如何衝擊OpenAI、Anthropic等閉源實驗室的商業模式？當模型能力逐漸商品化，未來AI行業的價值會流向模型本身、推理基礎設施，還是Agent與企業工作流？ 注：本期播客中提到的“開源”，更準確地說是開放權重（open weights）。K3官方稱自己為開放模型，它使用的是Kimi K3 License，不是標準 MIT/Apache 這類完全開放的OSI license。 【主播】 Yiwen，矽谷101特約研究員 【嘉賓】 王鐵震，Hugging Face前亞太生態負責人 Keith Zhai，TinyFish聯合創始人 【你將聽到】 中國開放模型，矽谷怎麼看？ 01:45 Kimi K3為什麼突然成為矽谷關注的焦點？ 03:33 從DeepSeek、GLM到K3：矽谷對中國模型的判斷如何變化 06:51 企業為什麼開始轉向中國模型 10:23 中國開放模型推理成本 蒸餾爭端始末 13:24 蒸餾爭議：到底什麼是蒸餾？ 17:22 K3是否可能在短時間內蒸餾最強閉源模型？ 19:48 蒸餾能解釋模型的核心能力嗎？ 開放模型對閉源商業模式的影響 23:54 K3 License與開放模型商業化 34:27 開放模型會怎樣衝擊OpenAI和Anthropic的收入與估值？ 37:39 輝達為什麼支援開放權重 43:41 中國公司為什麼選擇開放 強大的開放能力下，Agent生態如何變化？ 45:04 Thinking Machines為什麼開放權重？ 48:39 開放模型催生的新生態 48:43 OpenRouter等多模型平臺為什麼開始受益？ 49:56 對Agent產品和基礎設施的影響 開放模型的安全之爭 55:40 接近前沿的模型，到底應不應該開放權重？ 01:04:01 開源和閉源模型，誰更容易被濫用？ 【延伸閱讀和相關術】 Kimi K3 官方技術報告 與 模型權重 Kimi K3 授權協議 Anthropic對蒸餾攻擊的 指控 《開放權重與美國AI領導力》 【相關術語】 開放權重（Open Weights） ：指模型開發者公開模型訓練完成後的引數檔案，允許使用者下載模型，並在自己的裝置或雲端進行部署、推理、微調或進一步開發。開放權重並不意味著訓練資料、訓練程式碼和完整訓練流程也同時公開，具體使用方式還會受到模型授權協議的限制。 開源模型（Open-Source Models） ：通常指不僅公開模型權重，還公開足以讓外部開發者研究、修改和復現模型的更多組成部分，例如訓練程式碼、模型架構、資料處理方法、訓練流程，以及在部分情況下使用的訓練資料。由於大模型很少完整披露所有訓練材料，目前業界對什麼樣的模型可以被嚴格稱為“開源”仍存在爭議。 思維鏈（Chain of Thought） ：指模型在生成最終答案之前，用一系列中間步驟拆解問題、組織資訊和進行推理的過程。 規模擴充套件效率（Scaling Effiency） ：指模型將計算資源轉化為能力提升的效率，也就是在使用相同或更少的算力、資料或訓練成本時，能否獲得更好的模型表現。 鍵值快取（KV Cache） ：指模型在處理上下文和生成內容時，儲存此前token在注意力計算中產生的Key和Value資料。這樣，模型在生成下一個token時不必重新計算全部歷史內容，可以顯著降低重複計算，提高生成速度；但上下文越長，KV Cache佔用的記憶體通常也越大。 【矽谷101正在招聘】 《矽谷101》招聘多個全職崗位，歡迎加入我們的超酷的深度內容工作團隊！ 👉🏻 點選檢視招聘詳情 【監製】 泓君 【後期】 Amei 【運營】 朱婕 【BGM】 Kablaam - Ealot Flickering Torches - Christian Andersen Radar Focus - Blue Saga Pulse Runner - Helmut Schenker 【在這裡找到我們】 公眾號：矽谷101 收聽渠道：Apple Podcast｜Spotify｜小宇宙｜喜馬拉雅｜蜻蜓FM｜荔枝FM｜網易雲音樂｜QQ音樂 其他平臺：YouTube｜Bilibili 搜尋「矽谷101播客」 聯絡我們： podcast@sv101.net Special Guests: Keith Zhai and 王鐵震.