fbpx

Facebook 用透過 AI 移除涉兒童色情的帖子

Facebook 近日宣布,由於採用了新 AI 技術,它上個季度已經刪除了 870 萬條涉及兒童色情犯罪的帖子。

利用 AI 及人工智能移子涉兒童色情及剝削帖子

Facebook的全球安全負責人 Antigone Davis 在博客文章中表示,新的人工智能和機器學習技術在過去一年中由公司開發和實施,在有人報告之前刪除了99%的帖子。

新技術在上傳時檢查兒童裸體和其他剝削內容的帖子,並在必要時向國家失踪和受剝削兒童中心報告照片和帳戶。Facebook 已經使用照片匹配技術將新上傳的照片與已知的兒童剝削和復仇色情圖像進行比較,但新工具旨在防止以前未識別的內容通過其平台傳播。

這項技術並不完美,許多家長抱怨他們孩子的無害照片已被刪除。Davis 在她的帖子中回應,表示為了「避免濫用的可能性,我們也對無性內容採取行動,就像洗澡中兒童的照片。」

除了家庭快照之外,它還被批評刪除具意義及代表性的內容,如1972年標誌性的Phan Thi Kim Phuc照片,在遭受南越凝固汽油襲擊她村莊後赤身裸體地逃走的照片,亦被禁止發佈。去年,該公司的審核政策也受到英國國家防止虐待兒童協會的批評,該協會呼籲社交媒體公司受到獨立審核和不遵守規定的罰款。

Facebook Live的推出有時也會使平台及其主持人淹沒,包括性侵犯,自殺和謀殺的視頻,包括她父親播放的11個月嬰兒的視頻。

雖然目前 AI 審查照片功能並不完美,但 AI 將審核過程自動化可以令人類工作者受益。上個月,前Facebook內容主持人Selena Scola起訴該公司聲稱,她在工作中篩選數千張暴力圖像,導致她患上創傷後應激障礙。其他主持人,其中許多是承包商,也談到了這份工作的心理收費,並表示Facebook沒有提供足夠的培訓,支持或經濟補償。

資料來源:TechCrunch

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

限制時效已用盡。請重新載入驗證碼。