OpenAI 推出辨識兒少性剝削影像的分類器,也能標記疑似 AI 生成影像
OpenAI releases new image classifier to detect CSAM, including images generated by AI
重點導讀
已知的兒少性剝削影像可以靠雜湊比對找出來,但新造、改造或 AI 生成的影像可能沒有可比對的紀錄。
- OpenAI 推出影像分類器,分析畫面內容,提供「疑似兒少性剝削影像」和「疑似 AI 生成」兩種風險分數,供獲準使用的組織安排人工審查。分數不能單獨判定影像是否違法,也不能證明影像由 AI 生成。
- 模型還可能誤判,必須先用各組織自己的資料評估,通報決定仍需人工處理。離線測試的精確率較高,但在 ChatGPT 流量測試中,兩種分數的精確率分別是 29.8% 和 34%,可能讓審查人員面對更多誤報。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
新分類器可補上雜湊比對難以辨認新造、改造或 AI 生成影像的缺口,但實際流量中的誤判比例也會增加人工審查負擔。
信源出處medianama.com
OpenAI releases new image classifier to detect CSAM, including images generated by AI
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。