問題不在你的 AI,而在你的基礎架構——Coder 的 Jiachen Jiang
問題不在你的 AI,而在你的基礎架構——Coder 的 Jiachen Jiang
AI 導讀
這場演講最重要的主張是:AI 代理出的災難,本質是基礎設施的失誤,不是模型的失誤——而防範這些災難所需的管控機制,多陣列織內部其實早就有了,只是從未設定。
- Jiachen Jiang 是 Coder 的資深產品經理(Coder 販售開源、自架的開發環境,以及針對受監管產業的 AI 治理方案,客戶涵蓋聯邦機構、銀行與投資管理公司)。她回顧了過去大約一年內的三起真實事件:Replit 上一隻代理刪掉了正式環境資料庫。
- 一場釣魚攻擊把某家銀行的 Copilot 訂閱變成資料外洩工具。
- 以及 Nx「Singularity」供應鏈攻擊,把開發者自己的編碼助理變成武器。她的論點是:大型語言模型本質上不具確定性,。
🎙️
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
推薦理由
演講指出 AI 失敗多因基礎設施缺陷,提醒讀者檢視既有管控以降低風險,並以三起實際案例說明防範重點。
信源出處youtube.com
問題不在你的 AI,而在你的基礎架構——Coder 的 Jiachen Jiang
本文為 888news AI 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: AI Engineer (youtube.com)
開啟原文