跳到正文
MediaNama(medianama.com)· Prabhanu Kumar Das·· 5 天前精選品質評分82

OpenAI 推出辨識兒少性剝削影像的分類器,也能標記疑似 AI 生成影像

OpenAI releases new image classifier to detect CSAM, including images generated by AI

重點導讀

已知的兒少性剝削影像可以靠雜湊比對找出來,但新造、改造或 AI 生成的影像可能沒有可比對的紀錄。

  • OpenAI 推出影像分類器,分析畫面內容,提供「疑似兒少性剝削影像」和「疑似 AI 生成」兩種風險分數,供獲準使用的組織安排人工審查。分數不能單獨判定影像是否違法,也不能證明影像由 AI 生成。
  • 模型還可能誤判,必須先用各組織自己的資料評估,通報決定仍需人工處理。離線測試的精確率較高,但在 ChatGPT 流量測試中,兩種分數的精確率分別是 29.8% 和 34%,可能讓審查人員面對更多誤報。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

新分類器可補上雜湊比對難以辨認新造、改造或 AI 生成影像的缺口,但實際流量中的誤判比例也會增加人工審查負擔。

信源出處medianama.com

OpenAI releases new image classifier to detect CSAM, including images generated by AI

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: MediaNama (medianama.com)
開啟原文

讀者討論

理性交流 · 即時討論