OpenAI 推出 CSAM 圖片分類器,部分公司可免費使用 API
48% fewer flags: OpenAI's free CSAM classifier is live
重點導讀
平臺很難找出從沒出現過的 CSAM 圖片,也不能讓人工審查人員被大量疑似內容拖垮。
- OpenAI 推出新的圖片分類器,能判斷包含 AI 生成圖片在內的兒童性剝削內容。
- 早期合作測試中,在抓到相同數量違規圖片的情況下,被標記的圖片少了 48%,而真正屬於違規內容的比例約高 2 倍。不過這些數字來自 OpenAI,外部還沒有獨立查核。部分公司可透過 API 免費使用,ChatGPT 也會對相關提示詞發出警告並暫停帳號 24 小時,但誤判可能讓使用者失去帳號與對話紀錄,申訴速度也是風險。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
48% fewer flags: OpenAI's free CSAM classifier is live
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文