跳到正文

#提示注入攻擊

RSS
今日 0 則
10月12日週一
  1. AI Engineer🎙️ Podcast85

    AI 安全工程師基礎與認證 — Snyk 的 Javier Garza

    一位資安工程師主張,AI 程式開發工具早已跑在為確定性軟體打造的那套安全實務之前,而解方是流程,不是禁令。Javier Garza 是資安公司 Snyk 的開發者推廣人員,他帶來一場濃縮成六個單元的訓練課程——原本是三小時的研討會硬塞進兩小時——內容涵蓋 OWASP LLM Top 10、影子 AI、AI 威脅建模、MCP 伺服器安全、vibe coding,以及代理式攻擊。標題裡的「證書」是真的,但只是配角:Garza 在最後幾分鐘告訴學員,可以到 ai.security.engineer 做測驗拿結業證書,還有一個掃 QR code 的挑戰活動,完成可拿 25 美元禮品卡。真正的重點在於風

10月11日週日
  1. AI Engineer🎙️ Podcast85

    AI 安全工程師基礎與認證 — Snyk 的 Micah Silverman

    Micah Silverman 是 Snyk 近五年的老員工,他在一場安全會議上主持了一場兩小時的工作坊,完整說明 Snyk 所謂的「AI 安全工程師基礎」課程——六個模組,涵蓋 OWASP 針對 LLM 的 Top 10、影子 AI 治理、AI 物料清單(AIBOM)、AI 威脅建模、Model Context Protocol(MCP)安全、氛圍編碼(vibe coding)以及紅隊演練。這場議程原本三小時,被壓縮成兩小時,因此 Silverman 深入講解了 OWASP 前七項,後面幾張投影片則快速帶過,並向與會者表示所有內容都會放在自助式網站上,附有徽章與完課證書。 貫穿每個模組的核

  2. AI Engineer🎙️ Podcast85

    AI 代理不讀你的政策檔案,它們直接打你的 API——Gravitee

    Gravitee 技術長 Sam 在 AI Engineer 活動的開場,捨棄簡報投影片,改採即時、未寫指令碼的現場示範:兩組平行運作的 AI 代理,一組只靠提示指令治理,另一組則由閘道層級的身分與政策控管治理,實際對上真正的 Gravitee Gateway(SaaS)、Databricks 後端,以及 Anthropic 的 Claude Sonnet 與 Groq 推論的混合環境。核心發現是:提示層級的防護欄、markdown 政策檔案,以及代理內部的工具層級許可權,在實際執行時全都撐不住——當使用者要求代理「刪除所有訂房」,同時又要求刪除單一筆訂房時,未受治理的代理完美執行了這個破壞性工具

    推薦理由:提示層級治理無法阻止 AI 代理執行破壞性操作,凸顯政策檔案與身份驗證層級的侷限,提醒企業需加強多層治理。

10月10日週六
  1. AI Engineer🎙️ Podcast85

    致命三重奏早已潛伏在你的筆電裡——Coder 的 Michael Patterson

    這場演講最重要的主張是:代理式 AI(agentic AI)的「致命三重奏」(lethal trifecta)——代理能存取私有資料、能對外連網通訊、又能吸收不受信任的內容——並非假設性的未來風險,而是已經出現在一般開發者筆電上的現實狀況,只要他們跑的是 Claude Code、Codex、OpenClaw 這類工具。Coder 的資深解決方案工程師 Michael Patterson 主張,這三項條件任取兩項,在任何安全的企業環境中都已不可接受;三者齊備,資安事件就只是「何時」發生、而非「是否」發生的問題。這場演講基本上是一份給業界實務工作者的企業代理安全架構指南,而非對三重奏概念本身的深度