重點導讀
兒童性虐待影像可能透過 AI 生成,讓相關組織更難辨認。
- OpenAI 推出免費分類工具,提供經審核的組織用來偵測這類影像,也包含 AI 生成的圖片。OpenAI 表示,這套工具是在 National Center for Missing & Exploited Children 協助下開發,並會加入 ChatGPT 警告、發布給開發者的指引,以及支援兒童安全調查人員。
- Tech Coalition 和 ROOST 也協助讓更多組織能使用它。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
OpenAI 把兒童安全工具提供給經審核的組織,並同步補上警告、開發指引與調查支援,呈現完整的防護做法。
OpenAI Newsroom@OpenAINewsroom
·6 天前
We're releasing a free new tool to vetted organizations to help detect child sexual abuse material, including AI-generated images. We're also adding ChatGPT warnings, publishing guidance for developers, and supporting child safety investigators.
We developed the classifier with assistance from the National Center for Missing & Exploited Children. We're working with the Tech Coalition and ROOST to help make it available to more organizations.
推文來源 · X (Twitter)在 X 參與討論
來源: OpenAI Newsroom (x.com)
在 X 查看推文