跳到正文
hackernews100(signal.org)· dotcoma·· 2 天前精選品質評分80

Signal 限制作業系統 AI 助理讀取訊息畫面

Restricting AI agents in mobile operating systems platforms from capturing data

重點導讀

作業系統內建的 AI 助理可能讀取螢幕內容,讓 Signal 訊息被擷取並交給 AI 使用。

  • Signal 表示,iOS 27 版 App 會阻止截圖。
  • Android 偵測到 AI 助理試圖讀取畫面時,會自動開啟「螢幕安全」設定。使用者可以在 Signal 設定中關閉這項保護,但訊息可能因此被 AI 助理讀取。這些措施無法涵蓋所有 Android 裝置,也還不能用在 macOS。
  • Signal 呼籲作業系統業者提供清楚的檔案和工具,讓開發者能禁止 AI 存取敏感資料。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

Signal 說明 iOS 與 Android 上的防護方式及其限制,呈現作業系統 AI 讀取畫面時,通訊軟體保護隱私面臨的難題。

正文 · 中文翻譯

Black silhouette in the shape of a smartphone overlaid with graffiti-style text that says "SIGNAL WAS HERE".

保護隱私是我們的使命,也是我們存在的理由;我們會盡一切努力保護隱私。

這表示我們會限制行動作業系統內建的最新 AI 助理,以免它們可能擷取並儲存你的 Signal 資料。

我們先前已在 Windows 上採取過這項措施。去年,我們透過封鎖螢幕擷取,防止 Microsoft 的 Recall AI 在 Windows 11 作業系統上,預設擷取並儲存你的 Signal 訊息畫面截圖。1 現在,對於內建於 iOS 27 的代理式系統,以及我們能偵測到 AI 助理試圖讀取 Signal 畫面的 Android 版本,我們也會採取類似措施加以限制。2

問題與 Windows 上的 Microsoft Recall 類似:Google 和 Apple 正將代理式功能深度整合進作業系統,例如 Google Gemini 的 Gemini Intelligence,以及 Siri AI 的 Onscreen Awareness。這是一項重大變化。Google(Android)、Apple(iOS/macOS)和 Microsoft(Windows)打造了三大消費型作業系統(OS),第三方開發者(如 Signal)會在這些環境中建置並執行應用程式。換句話說,這三種作業系統就像 Signal 和其他應用程式必須航行其中的海洋,決定了應用程式生態系的生存條件。此刻,這些代理式 AI 整合正在改變這個環境,使其愈來愈不利於隱私。這對 Signal 以及我們能否負責任地履行使命,構成了生存威脅。

為了取得你的相關資訊,這些作業系統中的 AI 助理會「掃描」螢幕上的資訊。這麼一來,你的 Signal 資料就會遭到擷取,接著提供給這些代理式系統,讓它們能回答你的問題並照你的要求辦事。

最終結果是,作業系統中的這些 AI 功能正在削弱 Signal 獨立保障隱私的能力。十多年來,我們仰賴經過實際驗證、值得信賴的開放原始碼,以及經過形式化驗證的加密協定來提供這項保障。全球頂尖的安全專家與駭客都曾仔細檢視這些技術,並證實其穩健可靠。如今,為了提供代理式 AI 功能,你的敏感資料會遭到擷取、儲存,並交由作業系統層級的 AI 助理當下使用的本機資料庫或遠端伺服器存取。資料一經擷取,Signal 就無法再掌控後續情況,這也危及對話中所有參與者的隱私。

A screenshot from Signal Settings on iOS showing the new "Block Siri AI" setting enabled.

A screenshot from Signal Settings on Android showing the "Screen security" setting enabled.

因此,我們會在 iOS 27 的 Signal App 中禁止螢幕截圖,並在 Android 上偵測到 AI 助理試圖擷取螢幕資料時加以封鎖。2

想要截圖的人可以在 Signal App 的設定中停用這項保護。不過,這麼做可能會讓這些 AI 助理取得你(以及聯絡人)的 Signal 內容,並破壞我們對隱私的保障。我們的補救措施也不完整:儘管我們會盡一切努力,限制螢幕截圖仍無法防範 AI 助理透過其他更隱蔽的方式存取應用程式資料,例如從使用者裝置的檔案系統讀取已存在的內容。

我們想明確指出:Signal 以及其他應用程式開發者,缺乏能有效防止 AI 代理程式破壞應用程式層級隱私的工具,這是個嚴重問題。即使我們能偵測並封鎖 AI 存取資料,Google、Apple、Microsoft 等公司也沒有提供簡便的方法,讓開發者限制 AI 存取資料,又不必大幅犧牲應用程式的核心使用體驗。這也是我們目前無法在 macOS 上實作這些防護措施的原因。3

我們也苦於缺乏 AI 代理程式實際運作方式的相關檔案。過去幾個月來,我們投入大量開發時間與心力,在 Android 和 iOS 上進行鑑識調查,試圖瞭解這些 AI 系統存取應用程式資料時,實際上發生了什麼事。若沒有更完善的檔案與明確的技術規格,Signal 將越來越難以為數百萬仰賴我們服務的人提供可靠的隱私與安全保障。

我們持續呼籲 Apple、Google 和 Microsoft 等主要消費性作業系統公司,提供簡便的技術工具與正確的檔案,讓 Signal 這類開發者能防止 AI 代理程式存取敏感的應用程式資料。具體而言,我們呼籲這些公司採取兩項合乎常理的補救措施,保障數百萬人所仰賴的隱私:

  1. 開發者應該能以簡便且檔案完善的方式,讓自己的應用程式退出 AI 資料存取與處理範圍,包括但不限於讀取螢幕、存取檔案系統、通知、API 和其他作業系統架構,同時不損害應用程式的核心功能。
  2. 作業系統公司應針對這些 AI 代理程式的運作方式,尤其是資料存取與處理,制定更完善的檔案與技術規格。機密運算並非完整的解決方案,也無法處理這些核心疑慮。尤其是,這類作法仍將決定隱私保障程度(若有)的權力,留在這些服務供應商手中。

我們也逐漸看到,亟需有工具防止 Meta 的 Muse 等第三方代理程式,利用使用者在設定期間受鼓勵授予的深度許可權來存取應用程式資料。許多情況下,這些代理程式利用無障礙設定;這些設定原本是為了協助真人充分使用應用程式與服務,而非成為讓 AI 代理程式得以存取一切的萬用鑰匙。

除了採取這些技術措施來封鎖擷取行為,我們也正與整個生態系的各方對話,說明其中的利害關係。整個產業仍有許多工作要做,才能改善 AI 代理程式在作業系統中的運作方式,以及它們是否會擷取和處理私人資料、如何擷取和處理。我們審慎樂觀看待 Google 和 Apple 等主要作業系統供應商正與我們合作,探討這些系統應如何更妥善地與 Signal 這類重視隱私的應用程式互動。我們希望很快能分享更多相關資訊,也希望這些公司認清這對整個生態系造成的危險,並與我們及其他業者合作,制定能在整個產業切實保障隱私的標準做法。

最後,我們想指出,察覺到這些危險的不只有我們,也感謝盟友推動類似的改變。我們都必須瞭解,若缺乏這些合情合理的補救措施,將 AI 代理整合至作業系統,會對應用程式層級的隱私,以及 Signal 等獨立開發者保護你敏感資料的能力,構成存亡威脅。Signal 是礦坑裡的金絲雀,但這影響整個生態系,也應促使所有重視這些基本權利的人採取行動。


Signal Technology Foundation 是 Signal app 的非營利組織,全球數百萬人信賴這款 app。我們透過開放原始碼的隱私技術,捍衛言論自由,並促進安全的全球通訊。Signal Technology Foundation 是美國符合 501(c)(3) 資格的免稅組織。

  1. Microsoft Recall 每隔幾秒就會擷取你的螢幕,透過光學字元辨識從螢幕截圖中擷取文字,再將這些個人資料存入可搜尋的裝置端資料庫,供 AI 系統查詢。這可能會暴露並無限期保留你的 Signal 資料,包括閱後即焚訊息。 ↩

  2. 除了 Google 為 Pixel 裝置提供的版本,Android 還有多種版本。對許多廠商的裝置而言,如果螢幕截圖功能已停用,我們就沒有可靠的方法偵測是否有人嘗試截圖。為避免造成不佳的使用體驗(例如截圖突然無法使用,讓使用者感到困惑),我們決定改為著重偵測 AI 助理是否嘗試存取螢幕。偵測到這類存取時,Signal Android 會自動啟用「螢幕安全性」設定。 ↩ ↩2

  3. 細心的讀者會注意到,除了無法涵蓋所有 Android 裝置外,我們也沒有在 macOS 上封鎖 Siri AI。這是因為我們無法在 macOS 上可靠地封鎖螢幕截圖。由於缺乏明確記載、可供我們實作螢幕截圖防護的 API,我們沒有可用的工具來完成這項工作。macOS 雖然具備防止持續擷取螢幕畫面的防護機制,但我們無法將其套用於螢幕截圖(多數代理式系統正是透過螢幕截圖存取 Signal 等應用程式的資料)。我們嘗試在 macOS 上封鎖螢幕截圖時,發現其中充斥著令人困惑的取捨,可能危及使用者隱私;例如,有些 API 已遭棄用,改由僅適用於串流媒體及其他受 DRM 保護內容的螢幕防護方案取代。我們希望 Apple 能儘速補救此問題。目前,我們對 macOS 27 使用者唯一的建議,是前往「系統設定」>「Siri」,將 Signal 加入「排除的 App」區段,避免 Siri AI 主動存取訊息內容。 ↩

來源: hackernews100 (signal.org)
開啟原文

讀者討論

理性交流 · 即時討論