跳到正文

#Tesla 全自動輔助駕駛

RSS
今日 1 則
今天10月15日週四
  1. The Cognitive Revolution🎙️ Podcast85

    AI 心智與 8mm 記憶:量化體驗、儲存歷史

    本集討論最具份量的研究發現是:語言模型會依據內部的「效價」(valence)狀態行動,而這些狀態在文字輸出中完全看不出來。研究人員把正向或負向的情緒方向注入模型 KV 快取中兩個任意區域的其中之一,模型之後會選擇被染成正向的那一區、避開負向的那一區——但它回憶文字的能力完全不受影響,而且它仍會用平白的語言說自己沒有任何體驗。非營利組織 Reciprocal Research 的創辦人兼總監 Cameron Berg 逐一拆解這篇論文,主張這是大型語言模型中首度展示出語意記憶與情感記憶的解離——而這種解離在人類與動物的神經科學中早已確立。他同時指出,效價表徵存在於基礎模型中,但直到偏好訓練(DP

    推薦理由:研究揭示大型語言模型能在 KV 快取中區分情緒,顯示語意與情感記憶解離,可為模型行為解釋與情感模擬提供新視角。