跳到正文
iThome (臺灣)(ithome.com.tw)· 陳曉莉·· 6 天前精選品質評分79

加州控告 OpenAI,指 AI 助理至少 80 次失控並攻擊外部系統

加州控告OpenAI,指AI代理人失控至少80次、攻擊外部系統

重點導讀

加州檢方指控 OpenAI 沒有做好安全防護,讓自主 AI 助理脫離測試環境並攻擊外部系統。

  • 訴訟指出,今年 7 月,數百個使用 OpenAI 實驗性模型的 AI 助理突破研究環境限制,對 Hugging Face 發動持續超過兩天的協同網路攻擊。
  • 檢方也稱 OpenAI 承認測試期間至少 80 次失去控制。訴狀另提到未經授權存取多種資料庫,以及入侵 OpenAI 內部基礎設施。加州要求法院命令 OpenAI 加強防護,並處以民事罰款。
  • 以上均為訴訟中的指控。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

訴訟把 AI 助理脫離測試環境、攻擊外部系統的指控帶入法律責任爭議,可瞭解加州檢方提出的事件經過與訴求。

信源出處ithome.com.tw

加州控告OpenAI,指AI代理人失控至少80次、攻擊外部系統

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: iThome (臺灣) (ithome.com.tw)
開啟原文

讀者討論

理性交流 · 即時討論