OpenAI 推出兒少安全工具,協助辨識虐童影像並打斷有害行為
網路上的兒少性虐待影像可能是新出現的圖片,也可能由 AI 生成,讓安全團隊難以找出並處理。OpenAI 推出新的影像分類器,協助辨認疑似影像並排序審查優先順序,經審核的組織可透過 OpenAI API 免費申請使用。早期測試估計,在找到約相同數量的虐童影像時,新工具可讓需要人工檢查的圖片減少 48%。OpenAI 也會在 ChatGPT 對尋找虐童材料的行為顯示警告、暫停使用 24 小時,並提供開發者指引和調查工具。
推薦理由:新分類器提供的早期測試資料,可看出它如何減少審查量並協助辨認新型態虐童影像,也呈現不同合作單位的測試結果。