松鼠會做的事,AI 不會(Michael Tomasello)
松鼠會做的事,AI 不會(Michael Tomasello)
Michael Tomasello 主張,大型語言模型(LLM)跳過了人類認知的核心:由控制系統構成的能動性、目標導向的意向性,以及共享的聯合承諾;因此它們複製的是語言的最終產物,卻沒有產生語言所仰賴的視角協調。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
Michael Tomasello 是發展心理學家、杜克大學榮譽研究員。他主張,要理解能動性(agency),最好的方式既不是把它看成自由意志,也不是看成某種神秘的內在自我,而是看成一套控制系統的組織方式——包含目標、對情境的感知,以及能彈性調整行為的決策機制;而這套組織在演化上分層出現,從爬蟲類、哺乳類、大型猿類一路到人類。整場對談大部分時間都花在這套演化分類,以及 Tomasello 的一個主張上:人類和其他猿類的關鍵差別在於「共享能動性」——共同目標、角色分工、共同注意力,以及支撐語言與文化的心智取徑(perspective-taking)。標題所扣的題目——松鼠懂什麼、而語言模型漏掉了什麼——確實是一條線,但只是次要支線,大約佔最後三分之一;Tomasello 在其中指出,LLM 是從人類成就的頂點(語言)起步,卻沒有底下那層基礎設施,若不從底層把這層基礎設施蓋起來,恐怕很難成為真正具備能動性的代理。
Tomasello 談這個題目很有份量:他在德國馬克斯普朗克研究所待了二十年,主持比較研究,把人類幼童與大型猿類放進完全相同的實驗情境;更早之前,他在 Emory University 的 Yerkes 靈長類研究中心觀察黑猩猩。讀者讀完應該能帶走幾樣東西:一套具體的四層能動性模型、能動性與智力之間的清楚區分、一套以共享意向性(shared intentionality)為基礎對大型語言模型提出的具體批評、Tomasello 對文化如何既限制人又賦能人的說法,以及他的警告——讓人類文化得以運作的合作機制,同時也是謊言和「我們對他們」政治得以奏效的原因。
能動性是一套控制系統,不是小矮人,也不是自由意志
Tomasello 的核心動作,是把能動性拆解成一種可以實際指出來的組織模式,這也是他為什麼一再回到恆溫器和自動吸塵器。當某種行為在演化上至關重要、而環境又可預測時,大自然會直接內建固定機制——呼吸、吞嚥、性行為。只有在環境不可預測時,才需要一個會做決策的代理;而任何環境中最不可預測的東西,就是其他代理:獵物、掠食者、競爭者、合作者。代理是「一套機制、一套架構,讓個體得以評估情境,做出情境敏感的決策,並展現有彈性的行為」。
他講得很明白,這不是在談脫離生物學的自由意志。決策的空間存在於生物體適應機制的*內部*——獵豹追捕獵物時有做出某些決策的餘地,但這個餘地不是無限的。他之所以借用控制論的控制系統,修辭上的理由和理論上的理由一樣重要:認知科學界排斥談能動性,因為一談就聞到小矮人(homunculus)的味道;而一臺恆溫器就說明瞭,必要的那套組織——感知、目標、決策機制——根本不需要什麼神奇的心靈實體。
「我談的不過是一種組織,它的基本構造在恆溫器或自動 Hoover 吸塵器上就看得到。而那就只是基本組織。不,我不會稱它們為代理。」
他在課堂上做的練習,把這個論點變成可操作的:拿一個笨機制,比如靠定時器運作的紅綠燈,然後問怎麼讓它變聰明。答案只有一個——給它感知車輛的方法,給它一個目標(比如讓每條路抵達路口的車流量相等),再給它一套能讓世界符合這個目標的決策機制。這樣的結構,和對強勢刺激做出刺激—反應式反應,是截然不同的層次。
他也反駁「越聰明越好」這個預設。許多「笨」生物在演化上活得很好,正因為它們適應了所處環境。結蜘蛛網很複雜,但複雜不是重點——重點是根據對當下情境的感知,彈性地控制行動。
能動性的四個層級,每一層都由一種新的社會不可預測性推動
Tomasello 把論述範圍限定在通往人類的那條演化線上,並明確把鳥類劃為另一條獨立支線。他的方法是比較生物學的標準做法——使用模式物種:我們觀察不到最早的陸生脊椎動物,但生物學家推斷,某些現存爬蟲類和牠們夠相似,可以拿來做實驗。
| 層級 | 模式物種 | 新增能力 | 不可預測性的來源 |
|---|---|---|---|
| 基本控制系統 | 爬蟲類(作為最早陸生脊椎動物的模型) | 簡單的感知—目標—決策迴路;主要為獨居 | 獵物,多為昆蟲與小型生物 |
| 意向效能動性 | 哺乳類 | 執行層:規劃、假設檢驗、對尚不存在狀態的想像性表徵;能在付諸行動前中止某個意圖;貝氏學習 | 同群個體——搶先式競爭,比誰先到 |
| 理性/後設認知能動性 | 大型猿類 | 能反思自己的計畫:這是好計畫嗎、我需要更多資訊嗎、我是不是在白費力氣;能放棄難題、改選勝率更高的替代方案 | 較量式競爭——彼此鬥智 |
| 共享/集體能動性 | 人類 | 共同目標、角色分工、共同注意力、視角、文化慣例與規範 | 需要共同知識才能解決的協調問題 |
松鼠是他貫穿全場的哺乳類層級範例。他描述自己觀察松鼠:看起來要跳向某根樹枝,卻又爬下來、改走另一條路——他把這種行為解讀成事先想像失敗。他請聽眾去看 YouTube 上松鼠破解後院餵鳥器的影片,以及人們替松鼠搭建的障礙賽道,作為牠們能生成新策略的證據。他引用 Dennett 那句話:死掉的是假設,不是生物體。
後設認知層級,是大型猿類和其他哺乳類分道揚鑣的地方。猿類面對難題時,能意識到自己很可能出錯、去尋找更多資訊,或改選一個類似但勝率更高的選項。Tomasello 不把這當成額外附加的獨立技能,而是「另一層組織」,負責監控底下那層執行層。
人與其他猿類的差別在共享能動性,不在個體腦力
Tomasello 說,他職涯大部分時間都在研究這個問題,而他的答案是:人類能形成共享的代理。兩個人為了共同的目標湊在一起,各自擔負一個角色,而且各自都知道對方知道這個角色及其標準。你要是沒做好你的角色,我可以直接點名你——「喂,你在幹嘛,你那邊亂搞會害我們一起失敗」——這是一套在社會上分散運作的自我調節機制,他稱之為共同承諾(joint commitment)。他提到繫上一位博士後研究員 Shaozhe Cheng,正在用共同承諾來為這類共享能動性建立模型。
實證依據來自把黑猩猩和人類幼童放進可相比擬的合作任務。幼童分戰利品的方式不一樣:如果一個孩子先拿到自己的獎賞,他會繼續合作,直到另一個孩子也拿到。黑猩猩拿到自己的獎賞就結束了。夥伴沒做好自己的角色時,幼童會糾正對方;黑猩猩不會。Tomasello 把這些視為可實際觀察的行為差異,而不是詮釋。
共享能動性在認知上的回報,是共同注意力——他研究幼童的共同注意力已數十年。共同注意力會生出「視角」這個概念:我們看到的是同一個東西,但我這樣看、你那樣看。同一個物件可以是狗、是動物,也可以是寵物。他稱這是「人類獨有認知中最強大的部分之一」,並說其他生物根本不會這樣彈性地轉換視角。他把自己歸入從 George Herbert Mead 到 Donald Davidson 的思想傳統,並提出一個他用了二十多年的思想實驗:一個在荒島上獨自長大的孩子,會看著這個世界,卻永遠不會得到「視角」的概念,因為他身邊不會有另一個人,用不同的方式看著同一個東西。
他主張,共享能動性的演化起源是賽局理論意義上的協調問題——Thomas Schelling 的研究,以及獵鹿賽局(stag hunt)。我們各自在採集低階資源;這時出現一個更大更好的東西,但得靠我們兩個才抓得到。你要去我才想去;我要去你才想去。要解這個局,就得站在對方立場設想,而對方也同時站在你的立場設想。David Lewis 的《Convention》補上下一步:慣例是協調工具,而語言慣例正是人類為了協調活動而創造出來的。
語言建立在心智取徑之上,所以 LLM 是從終點起步
Tomasello 對大型語言模型的批評是結構性的,不是全盤否定——他說自己每天都用,還稱它是了不起的工具。他的異議在於:它們從「人類成就的頂點」起步,並假設通用智慧可以從那裡往上蓋,跳過了語言所賴以立足的那些能力。他原則上不排除這個可能,但對這條捷徑存疑。
他心裡那層基礎設施,包括指物手勢——他幾乎用一整本書談這個。一個指點可以代表任何意思——那是我們需要的東西、那是你姊姊、圖書館開著——因為我們共享同一個脈絡,而且能站在彼此的立場設想。他的說法是:「往那邊看,你就知道我的意思。」他承認,說 LLM 無法解讀指物手勢並不盡公平,但他相信這種能力是通往語言的一部分。
在他看來,文法關乎視角,而不只是組合。英文的 cleft 句式——「it was Fred that broke the window」——之所以存在,是因為你以為是別人打破窗戶,而我在糾正你;它的源頭是一個帶有錯誤印象、需要糾正的溝通情境。主動與被動(「the dog is chasing the cat」對比「the cat is being chased by the dog」)是同一事件分別從狗或貓的視角來建構。文法結構和詞彙一樣,都是人類為了用某種方式看事情而創造出來的慣例。
他也指出,人類不只是使用語言,還會創造語言。在孩童彼此聽不到對方的研究裡——Skype 時代透過視訊螢幕進行,聲音刻意切掉——孩童會自創新手勢、把它們慣例化,並互相調適彼此的用法。世界上大約有六千種語言。據他所知,LLM 不會創造語言慣例,也不會圍繞某個主題進行論述,他還在等看到這一幕。
他在最近一場 AI 工作坊上提出的思想實驗:把網路上所有內容拿來,每一句單獨處理,再把順序隨機打亂,讓任何文本都不具因果、邏輯或論述上的連貫性。用這樣的資料訓練出來的模型會是什麼樣子?沒有人知道,但現場的共識是會相當糟——這意味著模型的能力取決於句子之間的連貫性,也就是文本內部視角的轉換。
他的方法學處方隨之而來:當有些研究者在研究成熟的大人語言時,其他人應該從底層做起——先打造能協調、能採取視角、能創造慣例作為協調工具的系統,再把語言能力疊加到這層基礎設施上。他也順帶抱怨 AI 領域過度聚焦於學習:學習的存在只是為了幫代理做出適應性決策,它是個子過程,不是全部,也不是終點。在他看來,強化學習「帶有一點能動性的味道」,但主要還是在談學習。
「圖靈測試根本不夠,連差不多都談不上。」
能動性不是智力,而 IQ 這個構念是歷史的偶然
Tomasello 在全書中把「智力」加上引號,理由要從它的系譜談起。這個概念是 Alfred Binet 在法國一間實驗室裡創造出來的,法國政府交辦他判定誰準備好上大學、誰該去讀技職。Binet 研究的是學校式智力——語文、抽象思考——而 IQ 後來被具體化成了一種通用能力。Tomasello 說,他對通用智力這個概念的反射性反應是「膝跳式的」。
他的反證是物種間的特化:松鼠記得的藏食地點比我們多;許多鳥類辨別聲音的能力很可能勝過我們;黑猩猩在某些方面比孩童更會用工具,儘管孩童在另一些方面勝過牠們。對於大規模模組論——Tooby 與 Cosmides 主張一切都是模組,像一把瑞士刀,內建各自獨立的模組來處理擇偶、覓食等等——他認為模組確實存在,但不是全貌。代理需要能跨領域運作的通用歷程:感知、注意力、學習、記憶,全都在當下由一個通用的決策歷程排程。他的歸謬是:當兩個模組同時啟動時你怎麼辦——一個有吸引力的性伴侶和有吸引力的食物同時出現,兩個模組都在叫?
他偏好認知科學的詞彙——知識、認知、規劃、遠見、假設檢驗——而不是智力的詞彙,因為後者背負太多包袱。對於「能動性也可能被具體化」這個指控,他坦然接受,但說控制系統模型已經回應了這點:你可以指著一個物理機制及其組織,但講到智力,卻沒有可比的東西可以指。
天性與文化在秤上壓了手指,但最後裁決的還是代理
Tomasello 用演化角度來談情緒,把它看成大自然替決策加偏誤的方式。大自然讓你極度怕蛇,所以一條蛇會讓你放下所有其他目標、趕快離開——不過如果有人拿槍抵著你的頭叫你別動,你可能就任那條蛇爬過你的腳。情緒把你拉向某些人、讓你害怕、快樂或生氣,從而影響決策,但不決定決策。
他把同一套邏輯延伸到文化,並把它視為達爾文式天性之後第二股強大的決定力量。馬克思的版本——你出生在某個社會階級、繼承某套意識形態、權力關係形塑你——描述的是強大的影響,而不是決定因素。他的例子刻意平凡:他愛吃甜食,但正在節食,所以決定不吃那球冰淇淋;他會被年輕漂亮的女性吸引,但他已婚。道德情境則是:他許下承諾,但女兒出了車禍,他必須決定要守承諾還是趕去找她。總得有人在互相衝突的影響之間做裁決,而那個人就是代理。
他把這連上 Chomsky 與 Andrew Marr 的那場訪談,引用 Marr 的質問:「我不是說你在自我審查。我相信你說的每句話你都真心相信,但我要說的是,如果你相信的是別的東西,你今天就不會坐在那個位子上。」Tomasello 的解讀是:這類力量形塑了決策空間,但沒有把它封死。
文化是一顆虛構的硬碟,既限制人又賦能人
Tomasello 把「人類活在一個由共識虛構出來的世界裡」這個論點歸功於 Yuval Noah Harari 的《人類大歷史》——英鎊、總統、首相,這些東西只因為大家同意才存在;機制則歸功於 John Searle 的「地位功能」(status functions):我們把一個人變成總統,把一張紙變成鈔票。東德馬克曾經是錢,然後有一天就變成了一張張紙。用 Harari 的話說,企業是虛構的——法律上是個體,但顯然不是任何直接意義上的個體——然而它們是地球上運作中最強大的力量之一。Tomasello 說,Donald Trump 是美國總統,這是事實,但這是一個相對於人而存在的事實,因為人類創造了這個概念。
問到這種虛擬化有沒有黑暗面,他的答案是有的,而歐威爾是指南。在他看來,Trump 是操弄共享意向性機制、建構另類現實的高手——用「他們說」和「我聽說」這類說法暗示大家都這麼想,再用反覆述說讓某個主張看起來像共識。謊言本身之所以行得通,正因為人類是合作的:黑猩猩不會彼此說謊,因為牠們根本不會想到,在對你沒好處的時候你還會說實話。我們容易上當,是因為我們預設對方在沒有別有居心的情況下會合作,而政治人物利用的正是這個預設。
同一套合作機制也生產出「我們對他們」的結構。當人們問他,人類怎麼能這麼合作,世界卻又充滿爭鬥,他的答案是:幾乎所有爭鬥都是「他們在攻擊我們」。人類版的集體意向性是*我們的*群體——長得像我們、說話像我們、吃一樣的食物、穿一樣的衣服。河對岸的人長得怪、說話怪、吃的東西很噁心;「不是我恨他們,是我就是對他們不太放心。」自從農業、城市和大規模遷徙出現以來,我們活在一個不同的世界,他希望共享能動性和共享意向效能調適過來,「在我們把自己炸掉之前」。
市場和塞車是湧現的,不是代理
被問到市場這類集體實體是不是某種趨同的自然現象時,Tomasello 不願把無生命的東西稱為代理。資本沒有目標,也不會在達不到目標時調整;決定資本流向的是資本家。他覺得把這種說法當成一種方便的說法可以,但把它當成字面上的代理就不太妥。
他確實接受湧現現象——「第三類現象」,社會學就是從這裡開始的。沒有人想要塞車,但每個人都想快點回家,就塞出一條車龍。沒有人想要通膨或股市崩盤,但兩者都從個人有意的決策中湧現。他由此推出的政策意涵是:政策制定者必須看到個人決策與總體結果之間的連結,並設計規則——比如針對承擔風險的行為,以緩解崩盤——去調節個人決策,讓不幸的總體結果不至於發生。
至於收尾的形上學問題——一個系統能不能表現得像有能動性、實際上卻沒有,也就是 Dennett 的意向性立場——他不給明確答案。他說,如果走起來像鴨子、叫起來像鴨子,那就是鴨子;一臺真正具備所有這些性質的機器,就得算某種代理。他引用哲學家 Ned Block 一場題為「Does meat matter?」的演講——問的是血肉、大腦和荷爾蒙是不是不可或缺——並表示現場沒有共識,他自己也沒有什麼高見。
值得追蹤的未解張力,是 Tomasello 自己留下的那個:他說 LLM 原則上或許能跳過共享意向性這層基礎設施,直接從語言這個終點抵達通用智慧;但他同時主張,更可能的路徑是從底層往上,穿過協調、慣例創造與心智取徑。他的具體預測是可檢驗的——用句子隨機打亂的文本訓練出來的模型,表現應該會嚴重劣化——而他的處方是組織性的,不是架構性的:先打造能形成共同目標、能創造慣例的代理,再教它們說話。更深層的未解問題,他點了出來卻沒有回答:生物性的基底——那塊肉——對能動性來說,到底是不是承重結構。