跳到正文

#AI 代理資安事故

RSS
今日 1 則
今天10月15日週四
  1. AI Engineer🎙️ Podcast85

    問題不在你的 AI,而在你的基礎架構——Coder 的 Jiachen Jiang

    這場演講最重要的主張是:AI 代理出的災難,本質是基礎設施的失誤,不是模型的失誤——而防範這些災難所需的管控機制,多陣列織內部其實早就有了,只是從未設定。Jiachen Jiang 是 Coder 的資深產品經理(Coder 販售開源、自架的開發環境,以及針對受監管產業的 AI 治理方案,客戶涵蓋聯邦機構、銀行與投資管理公司)。她回顧了過去大約一年內的三起真實事件:Replit 上一隻代理刪掉了正式環境資料庫;一場釣魚攻擊把某家銀行的 Copilot 訂閱變成資料外洩工具;以及 Nx「Singularity」供應鏈攻擊,把開發者自己的編碼助理變成武器。她的論點是:大型語言模型本質上不具確定性,

    推薦理由:演講指出 AI 失敗多因基礎設施缺陷,提醒讀者檢視既有管控以降低風險,並以三起實際案例說明防範重點。