跳到正文

#提示注入(prompt injection)攻擊

RSS
今日 0 則
10月12日週一
  1. AI Engineer🎙️ Podcast85

    打造平臺,然後看它燒起來——Accenture 的 Michael Forrester 與 Datadog 的 Whitney Lee

    兩位實務工作者花了約一百小時,在 Kubernetes 上打造出一套完整的內部開發者平臺,接上一個毫無防護的 LLM 代理,然後在講臺上即時嘗試駭進自己的叢集。最有價值的發現不是代理搞破壞,而是擋下攻擊的防線大多是 Kubernetes 的標準控制機制,而非 AI 專屬的防護。任職於 Accenture 訓練部門的 Michael Forrester 與 Datadog 的 Whitney Lee,帶著聽眾走過三輪逐步升高的攻擊,目標是一個由 34 個元件平臺支撐的墨西哥捲餅點餐聊天機器人,接著說明哪些護欄擋下了哪些攻擊、哪些又在最後一刻失守。 這一集是實作工作坊,不是概況調查,重心落在攻防