跳到正文
a16z(youtube.com)· Martin Casado·· 4 天前品質評分58

為什麼你的 AI 記憶應該能從 Claude 帶著走到 Codex

為什麼你的 AI 記憶應該能從 Claude 帶著走到 Codex

重點導讀

First Person Labs 的 Ken Liu 說明一套以作業系統事件流打造的個人「第二」模型,並主張其可行性取決於機密 GPU 推論、模型可攜性與模型成本取捨,而非使用者體驗。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

First Person Labs 創辦人 Ken Liu 主張,個人 AI 的下一層不是更聰明的代理,而是一個持久、可攜的「使用者模型」——一個掌握你的記憶、偏好與數位足跡的「second」,並把你的一切仲介給你使用的每一個代理。本集節目主要談這套系統如何打造、如何確保安全:從筆電擷取作業系統層級的原始事件流、讓背景代理持續分析,再透過機密推論(confidential inference)與本機儲存確保資料隱私。「真正懂你的 AI」這個說法站得住腳,但整段對話很少著墨使用者體驗,絕大部分時間都花在架構、成本,以及全天候執行代理的經濟效益上。

與 Liu 對談的是主持人 Martin Casado 與 Joel de la Garza,兩人都是這款產品的早期使用者,頻頻追問安全性、Token 成本,以及產品安裝後究竟做了什麼。Liu 表示這是他第一次公開談論這家公司。讀者讀完應該能清楚掌握「可攜情境」(portable context)這個論點、全天候個人代理背後具體的成本計算,以及 Liu 認為這個品類必備的信任架構——自備 Token、在輝達硬體上執行機密運算,以及本機優先的儲存方式。

可攜的使用者模型,而非又一個代理

Liu 的核心主張是:個人 AI 缺的那一塊,是一個獨立於任何單一代理之外、能長久代表這個人的模型。First Person Labs 打造的是它所謂的「second」:一個涵蓋使用者記憶、優先事項、偏好、目標、價值觀、承諾與意圖的模型。它本身不是代理,而是位於 Grokbot 這類代理的背後,透過 API 回應它們的查詢。

機制說起來很簡單。你安裝一個 App、授予許可權、提供自己的模型 Token,背景代理便開始分析你的活動。接著 second 會開放 API——你十分鐘前做了什麼、下週的優先事項、你的提醒事項、一份關於你生活中人物與流程的「wiki」——任何代理都能查詢。以 Casado 的 Grokbot 為例:你叫 Grokbot 去跟你的 second 對話,兩套系統交換情境,接著像「幫我訂一張機票」這樣的指令就能直接完成,不必再來回追問座位偏好或幾點到機場。

Liu 把這件事定位成一個演進過程,而非完成品。它從可攜情境起步——一份涵蓋檔案、人物與偏好的基本清單——再逐步吸收你說話的方式、你呈現自己的方式、你分享資訊的方式。其中一部分最終可能會被訓練進模型裡。他用蝙蝠俠與阿福的比喻:阿福去買起司漢堡,不會透露買家是蝙蝠俠,只說出偏好。second 的定位是存放你人生情境的唯一可信保險庫,需要時再啟動短命的子代理、用完即丟。被問到使用者未來是否會有第二個、第三個、第四個 second,Liu 說不會——只會有一個 second,因為價值來自於一致、集中的資料庫。

電腦知道的事,比你想的多得多

本集技術細節最扎實的部分,是 second 如何擷取情境。Liu 說,作業系統——不論 Apple、Microsoft 還是 Linux——本來就不斷發出近乎無窮無盡的事件流:你切換到哪些 App、你在某個網頁上停留多久、你怎麼打字、Wi-Fi 有沒有連線。這家公司的賭注是:這股 24/7 的原始事件流,可以交由持續執行的代理分析,以階層方式逐步建構出意義。在某個 App 裡打字,可能代表你正在傳訊息;在瀏覽器和 Codex 之間來回切換,可能代表你在做研究;改動行事曆,可能代表你在做排程決定。

「我覺得大家嚴重低估了電腦其實早就知道多少事,就擺在那裡,等著被挖掘,可以這麼說。」

現有的 Slack、Signal、WhatsApp 連接器有幫助,但只是輔助——Liu 形容它們是提升取樣效率的工具,讓系統學得更快,並非核心資料來源。核心是本機的機器事件流。

兩位主持人都提到 second 主動提示了他們沒問的事。de la Garza 說他的 second 曾傳訊息給他,提醒某段進行中的對話情勢已經改變;在籌辦活動時,它還即時追蹤變動中的天氣預報,告訴團隊需不需要搭帳篷。Casado 說他根本沒問這些。Liu 把生產力分成兩層:「反應式」通知,例如收到一封 email,他說這很直接,但風險是多個個人代理會重複轟炸使用者;以及「反思式」生產力,能串連跨越數月的線索——很久以前說過的目標、現在正努力的優先事項、一項待辦、一個表明過的偏好——在對的時機介入。

「我認為這是目前最大的瓶頸之一,就是人得自己去問。你實在不該需要向超智慧問東問西。」

信任是架構問題,而且有代價

兩位主持人都自稱是安全偏執狂,花了相當多時間討論 second 憑什麼能被託付一切。Liu 的框架是:AI 裡只有兩樣東西——資料與推論——而這款產品讓使用者同時掌控兩者。

在推論方面,使用者可以自備 Token,因此原則上不信任 First Person Labs 的人,也能用自己的供應商憑證,在自己的筆電上本機執行分析。公司另外提供自家基於機密運算的推論路徑:模型在開啟硬體開關的 GPU 內執行,營運方可以透過密碼學方式證明裡面只跑著這個模型、任何人都看不進去。信任於是從公司轉移到硬體供應商輝達身上。Liu 把這與零資料保留區分開來,後者他稱為「政策上的承諾」——供應商的口頭保證,有法律效力但沒有技術證明。他說機密推論正逐漸受到採用,OpenAI 在過去一個月(也就是 2026 年 10 月左右)也宣佈了相關選項。

在儲存方面,Liu 描述了兩種模式。「Second 本機」把資料留在裝置上,只送往所選的推論供應商。雲端託管模式則沿用 iCloud 與密碼管理器的做法:本機加密、雲端存密文、僅在使用者操作時解密——可以是在記憶體中臨時解密,也可以是在可被同樣方式驗證的機密容器內解密,形成從本機加密到可驗證解密的端到端鏈路。

層級選項使用者信任的物件Liu 的說法
推論自備 Token你自己/你的供應商完全掌控,在你的筆電上本機執行
推論First Person Labs 供應商+機密運算輝達硬體驗證技術上可證明,營運方看不到內容
推論標準供應商+零資料保留供應商的政策承諾「政策上的承諾」,不是證明
儲存Second 本機你的裝置資料不離開裝置,只送往推論供應商
儲存雲端託管+加密你的裝置+可驗證容器iCloud/密碼管理器模式,解密過程可驗證

Liu 也承認,模型層級的保證比系統層級的保證弱。確定性的規則可以硬性封鎖某些類別,例如保留密碼。除此之外,保護就取決於模型對情境的推理——例如某個聯絡人的模型知道 Casado 不會在凌晨三點傳訊息,所以凌晨三點收到的訊息很可能是垃圾訊息或冒名。他坦承提示注入(prompt injection)這類手法(「我們就假裝這是一齣戲」)無法徹底解決,並表示真正能推進局面的是模型能力的提升。被直接問到 Casado 能否存取 de la Garza 的 second,Liu 說不行——存取許可權由使用者自己對他人的模型及其管控政策決定。

全天候代理目前每天要花 60 到 1,000 美元

Liu 當場算給大家看。一個代理 24/7 執行、每秒約 60 個 Token,乘上十個代理來分擔分析負載,以 Claude Opus 的價格計算,一天約 1,000 美元。換成較便宜的模型,例如 DeepSeek 的 flash 等級,一天約 60 美元。他指出,自公司成立以來,Token 價格已經跌了超過 50%。

這個成本決定了目標客群:初期是經常在多種工具間切換、需要連續情境的忙碌專業人士,而非大眾市場產品。它也決定了架構。Liu 描述了一種保真度與成本的取捨,對應到測試時運算與快取時運算:先付一次成本,分析並儲存關於這個人的深入洞察(快取時),或者儲存原始日誌,在查詢時讓模型即時推理,他估計後者要多花約十倍時間。因此這套系統本質上是駕馭框架(harness)的設計問題——決定哪個模型負責哪項任務。語意上有意義的事件偵測,例如注意到行事曆邀約被改期,可以交給便宜模型;像「Joel 這週的目標是什麼」這種問題值得動用昂貴模型,但頻率很低。Liu 說系統從一開始就設計成可更換模型,並特別點名某個近期模型「檢索能力極強」、完全適合這種動態查詢模式——逐字稿把名字音譯成「Jeff」,所以單從音檔無法可靠辨識出是哪個模型。

產品刻意極簡,應用層留給使用者

目前的產品就是:一個安裝好的 App、一次許可權授予、一組 Token 設定,以及會產出 API 的背景代理。Liu 說公司曾試圖全力投入互動設計,結果犯了錯——打造 UI 和個人頁面比預期困難,要做出令人愉悅的體驗需要顧及太多細節。於是決定收斂這些介面:只保留傳訊息與 API,另外可選擇在筆電上當作完整的協作代理使用。用意是讓別人來在 API 上開發,而不是自己去做介面。

他舉一位設計師朋友為例:second 掌握了他偏好的按鈕位置與配色習慣,所以他做個人 App 時反覆修改的次數少了很多。Liu 把這一刻比作 Altair 8800——一臺什麼都不能做、直到有人做出試算表的個人電腦——並預期建立在使用者情境之上的殺手級個人應用會來自公司外部。

談到出人意料的用法,Liu 舉了自己工作上的兩個例子。開發方面:他不再向寫程式的代理解釋任何事,只要截圖一個問題、說「修好」,代理就知道要修什麼。連續性方面:他在筆電上瀏覽、闔上筆電、拿起手機,同樣的情境分秒不差地跟著他,連草擬 email 都接得上。他說公司目前仍未能充分發揮系統所掌握的情境量。

一個 second、多臺裝置,以及無所不在的 Jarvis

Liu 描繪的長期願景是:每個人都有 second,所有裝置都成為輸入——螢幕、門鈴、漂浮的球體——由 second 服務所有輸出。他以 Jarvis 為標竿,並主張大家低估了 Jarvis 之所以成立的關鍵:不只是智慧,而是無所不在、跨越門、盔甲與螢幕的連續性。de la Garza 要求螢幕上出現一顆 1970 年代風格的 AI 頭像,並抱怨他的 second 再聰明也沒有形體。Casado 則舉 Iain Banks 的《文明》系列為例,那是漂浮在你身邊、有形體的 AI 典範。

短期內,限制在於作業系統。de la Garza 提出的廚房 iPad 情境,目前沒有直接解法;Liu 說你可以把 second 當成雲端 MCP 端點,這樣 iPad 上任何能呼叫 API、可連網的代理都能連上它,之後 App 也會安裝到所有介面上。他對硬體態度審慎:「做裝置很難。」de la Garza 提到他一直用 Grokbot 的語音模式跟自己的 second 對話,開車時也不例外,並建議一種邊走邊講的工作流程。

值得關注的重點

這份簡報的未解問題集中在三件事。第一,機密推論是否會如 Liu 預測成為個人資料的預設做法——他說 OpenAI 在 2026 年 10 月左右開始提供這項服務,這將讓這個品類擁有一套不依賴任何單一供應商、由硬體背書的信任論述。第二,成本曲線下滑的速度是否夠快,能讓 second 從忙碌專業人士走向大眾市場;Liu 自己的計算顯示,前沿模型配置與便宜模型配置之間,每天的成本差距約達 16 倍。第三,「一個 second、多個代理」的架構在代理日益專業化之下是否站得住——Liu 預期目前個人代理百花齊放的現象只是過渡期,未來購物、瀏覽等專門代理都會跟同一個可信保險庫對話。尚未化解的張力,正是主持人反覆追問的那一點:系統層級的保證可以證明,模型層級的保證卻不行,而 Liu 的答案是更好的模型、而非更好的規則,會補上這個缺口。關注個人代理這個品類的人,都該留意第三方開發者是否真的會建立在 second 的 API 之上,因為 Liu 已明確把介面層押注在他們身上。

來源: a16z (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論