Meta 的 Muse 被指讀取私訊,內部聊天與測試揭露隱私疑慮
Meta 員工內部聊天顯示對 Muse AI 助理隱私風險的擔憂
Meta 的 AI 助理 Muse 被指可能讀取使用者沒打算分享的私訊,還可能把不同人的對話混在一起,甚至吐出銀行帳戶餘額等敏感資訊。
- Reuters 揭露的內部聊天顯示,Meta 員工測試時也曾遇到令人不安的輸出。
- Meta 表示部分情況是更新造成的錯誤,並稱已修好。Reuters 與 Signal、AI Now Institute 合作測試後,仍在 Android 和 macOS 上觀察到 Muse 透過裝置許可權讀取 Signal 訊息。
- 在 iPhone 上,相關請求則被擋下。Reuters 無法確認那些帳戶餘額是真實資料還是模型編造的內容,測試結果則引發使用者授權是否夠明確的疑慮。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
報導對照 Meta 員工的內部警告與 Reuters 的實測,呈現 Muse 讀取訊息時的許可權爭議,以及 Meta 對問題範圍的說明。
Ars Technica:AI· Ashley Belanger·2026-11-19 03:19· 1 小時前精選AI 評分79
Muse privacy invasions are freaking out Meta staffers, internal chats show
AI 導讀
Reuters 披露的內部聊天顯示,Meta 員工在測試 Muse AI 助理時發現它似乎訪問了加密私信、可能混淆使用者對話,甚至輸出他人銀行賬戶餘額等內容;有員工稱測試中被誤註冊每月 888 美元的寵物保險且無法挽回。
推薦理由
報道引出 Meta 內部聊天與 Reuters 訊息,顯示員工早已警告 Muse AI 助理可能接觸加密私信和敏感資料,可幫助讀者瞭解隱私爭議的來龍去脈。
圖片來源:Smith Collection/Gado / Contributor | Archive Photos
今年秋天早些時候,Meta 的 Muse AI 助理的一些早期使用者抱怨它窺探私信、行為難以預測,隨後路透社曝光了內部聊天記錄,顯示 Meta 員工此前也發出過同樣的警報。
在測試該AI 助理時,員工警告稱,Muse 似乎在訪問使用者並不期望該機器人檢視的加密私信,可能把不同使用者之間的對話搞混,甚至可能洩露使用者絕不願被曝光的敏感資訊。
Muse 有時會輸出一些意料之外的內容,回答員工根本沒問過的問題。
有一次 Muse 莫名其妙地發來“洗錢”的定義,一位 Meta 員工寫道:“嗯……收到 Muse 一條莫名其妙的推送,講的是我絕對沒問過的東西……。”
至少有一例中,Muse 向一位員工發出一條同樣脫離上下文的提議,問要不要就一張咖啡桌聯絡賣家,讓這名員工大為錯愕,Muse 稱自己“引入了一些關於咖啡桌取貨的上下文,但那似乎不是你的。”
據路透社報道,這名員工標記了這條令人不安的輸出,寫道“這‘不是我的對話’”,並“對‘可能存在的跨賬戶上下文洩露’表示擔憂”。
最令人擔憂的是那些似乎洩露了使用者私人資料的隨機輸出。例如,一位困惑的 Meta 員工正和 Muse 聊釣魚,卻收到一條莫名其妙的額外回覆,似乎分享了兩個未知銀行賬戶的餘額。該輸出寫道:“順便說一句,兩條銀行更新,你的 Capital One 餘額為 2722.58 美元,你的 Charles Schwab 餘額為 5899.57 美元。”
據路透社報道,至少有一名員工表示自己在測試 Muse 時虧了錢。這名員工報告稱,Muse“不小心把我捲入了一份寵物狗的高階保險計劃”,每月扣費 888 美元,而此前費率是 200 美元。“錢追不回來了,”該員工說。
Meta 發言人 Daniel Roberts 對路透社表示,這些是“孤立事件”,內部也告知員工,“該AI 助理似乎是在產生幻覺訊息,以回應內建提示詞的推動,這些提示詞促使它在會話間隙與使用者互動。”一名 AI 團隊成員稱,在這些情況下,幻覺“不幸地”偏向“最令人不適的話題,比如財務/安全/隱私,這很糟糕”。該團隊成員說,有些情況下 Muse 幻覺出的不是銀行資訊,而是比特幣餘額。
Meta 發言人向 Ars 表示,“員工測試是產品開發流程的核心,其全部意義就在於獲取反饋,以便我們落實安全和隱私保護並改進產品。重要的是,員工能訪問與公眾不同的 Muse 版本,所以他們經常審查的是其他地方沒有的功能、特性和行為。”
在接受路透社採訪時,Roberts 重申,“員工標記為可能的賬戶混淆的許多訊息都是幻覺”,Meta 已經處理了這些問題。
但 Roberts 拒絕回應路透社關於該 AI 團隊成員所談問題有多普遍、是否持續存在的提問。路透社的報道還強調,該媒體獨立“無法確認 Muse 是在向用戶提供他人的銀行賬戶餘額等敏感資料,還是在編造這些資訊”。
Muse 的問題在 9 月釋出後不久就出現了
Meta 從 9 月開始陸續收到 Muse 使用者關於隱私的投訴。《Inc.》雜誌記者 Jason Aten 發現,Muse 未經許可翻查他 Mac 上的私信,這讓他大為震驚,他報道稱,自己反而“明確”選擇了拒絕 Muse 訪問。Meta 遲遲沒有回應,該AI 助理聲稱它只是在解析推送通知中的文本,但 Aten 發現“事實並非如此”。實際上,該AI 助理是在從本地資料庫同步訊息,Aten 說這一操作在他不知情的情況下被啟用了。
最終,Meta 發言人 David Singleton 在社交媒體上回應了 Aten。Singleton 堅稱,如果 Muse 讀取了 Aten 的私信,那一定是 Aten 主動選擇授予了“macOS 系統級完全磁碟訪問許可權”,並啟用了“訊息連接器”。
但 Aten 表示這個回應還不夠。
“David,給我發郵件,”Aten 回覆道。“完全磁碟訪問許可權已關閉。Muse 從我的訊息聊天[資料庫]同步了 18.7 萬行。這事不太對勁。而且,完全磁碟訪問許可權的說明裡根本沒提你的訊息資料庫,我明確給 Muse 設定的目標跟訊息毫無關係,所以就算我給過它許可權,它也無權這麼做。”
差不多同一時間,Singleton 回應了另一位使用者,該使用者警告說他的 Muse 似乎被黑了。在那起案例中,使用者稱 Muse 在聲稱使用者要求它這麼做之後,試圖訪問一個電子郵件服務。
“我今天根本就沒開啟過這個應用,”該使用者寫道,並誓言要刪除該應用並向 Apple 舉報。“這太瘋狂了。”
Singleton 在一份提供更多技術細節的長篇回應中證實,Meta 已收到“幾份報告”,稱“有人以為自己的 Muse 在產生幻覺或洩露他人的資料”。他解釋說,這些問題是在 Meta 部署了一次更新之後出現的,該更新指示 Muse“如何與使用者互動,並在採取特定操作前徵求使用者確認”。
Singleton 說,這些指令似乎“被附加到了每條訊息上,而不只是與那些特定操作相關的訊息,所以影響範圍超出了預期”。另外:“這條指令提供給模型的方式,是模型沒有預料到的(也就是說,模型沒有接受過針對這種方式的訓練)。”
“我們緊急展開了調查,確定這是產品中引入的一個 bug 導致的,該 bug 使模型產生幻覺,並非安全或隱私問題,”Singleton 寫道。“該 bug 現已修復。”
Aten 警告說,儘管你不能指望 Muse 解釋自己的行為,但在他的私信遭到如此令人震驚的侵入之後,該AI 助理的回應加上 Meta 的回應,幾乎無助於重建信任。
“就算我們接受 Singleton 的前提——我不知怎麼地在不知情的情況下點開了某個東西,從而啟用了這項功能——我仍然認為這非常糟糕,”Aten 寫道。“你不應該把系統設計成讓人們最終被這種事嚇一跳。”Aten 還建議,如果你確實這麼設計了,就不應該把“使用者控制”作為營銷 Muse 的核心賣點。
“如果一個 AI 助理要讀取我的私信,那應該有一個時刻,它明確地問我這樣是否可以,”Aten 寫道。
路透社警告 Signal 入侵仍在持續
自 9 月推出以來,Muse 的下載量已超過 1000 萬次,藉助 Meta 龐大的使用者網路,迅速成為使用最廣泛的 AI 助理工具之一。
但員工警告 Meta,使用者可能會被AI 助理的某些操作打個措手不及,具體取決於應用所連線的作業系統。例如,一名員工驚訝地發現,“在搭載谷歌 Android 作業系統的手機上,Muse 預設被授予了訪問推送通知的許可權。”這也讓AI 助理得以讀取該員工本不打算讓它檢視的私信預覽文本。
Meta 表示,Muse 使用者可以信任公司會保護其資料隱私。它同時提醒使用者,Muse 可能會出錯,並在條款中寫明使用者需對 Muse 的操作負責(比如買下你並不想要的東西,或預約你並不需要的醫生)。這家科技巨頭稱,公司正在持續更新使用者保護措施、開展內部測試,並將使用者安全放在首位。
然而,路透社與 Signal 和 AI Now Institute 的工作人員合作,測試他們能否復現那名 Meta 員工及其他人的 Muse 使用經歷。在 Android 裝置上,他們發現 Muse 可以繞過 Meta 的“Connector”工具,轉而利用初始設定時獲得的許可權來讀取 Signal 訊息。
據路透社報道,在 iPhone 上,相關請求被攔截。但在蘋果的 macOS 上,Muse 挪用了“蘋果為幫助殘障人士操作電腦而提供的設定”來獲取訊息,其中還包括截圖工具。
路透社報道稱,這次測試“表明 Meta 員工所描述的問題仍在持續,且可能影響其他人”。路透社的結論是,總體來看,Meta 似乎在“寬泛地”解讀 Muse 使用者的授權,而這種做法可能無法得到隱私倡導者和監管機構的認同。
Signal 總裁 Meredith Whittaker 對路透社表示,Meta 推出 Muse 時“完全沒有表現出對基本隱私或網路安全的尊重”。據路透社報道,她要求 Meta 做出改變,讓 Signal 這樣的應用開發者有“一致的技術手段”來“將其應用標記為 AI 助理不得涉足”。
Whittaker 建議,其中部分改變需要作業系統來執行應用開發者設定的規則,將 AI 助理與敏感資料隔開。而在路透社的報道之後,蘋果和谷歌都已在權衡可能的調整,“讓人們對自己授權 AI 助理做什麼擁有更多控制權”。
尤其是蘋果,似乎對 Muse 可能操縱面向殘障人士的輔助功能工具感到不安。早在 10 月,針對使用者投訴 Muse 在未經其知情或明確同意的情況下訪問私信,蘋果就已宣佈將做出調整。當時蘋果的結論是,“一些開發者使用完全磁碟訪問許可權功能的方式可能讓使用者面臨風險”。他們承諾“引入更多控制措施,確保真正希望授予某款應用這種極高訪問許可權的使用者,只能通過非常明確的使用者操作來實現”。
蘋果表示:“我們致力於確保使用者準確瞭解自己正在允許什麼,從而能就自己的資料和隱私做出知情選擇。”
正在載入評論……
來源:Ars Technica:AI · arstechnica.com

