AI 審查失靈！Discord 誤判無害圖片，8,000 帳號遭「誤殺」

Discord 證實，人工智慧內容審查系統 5 月以來誤判無害圖片為「有害素材」，導致約 8,000 個帳號遭封鎖。受影響圖片包括遊戲材質與棋盤格等常見圖片。

Discord 於官方 X 帳號說明，平台使用 AI 審查系統比對使用者上傳圖片與有害內容資料庫，但這套系統兩個月來常常誤判，將部分無害圖片錯誤標記為有害內容。Discord 表示，遭標記內容原則上都會由信任與安全團隊成員人工審查後才採取行動，但仍有數千名使用者 5 月起失去帳號存取權。

Discord 表示，已著手恢復遭錯殺的帳號。

外界分析指出，部分引發封鎖的圖片，如棋盤格圖樣，與不法人士隱藏兒童剝削內容的手法有相似之處，故可能觸發 AI 系統誤判。但事件也再次突顯，管理內容流程，人工作業仍不可或缺，因為人類辨識圖片有害與否速度更快。

AI 愈來愈廣泛用於各種平台管理時，類似自動化判斷失準而波及無辜使用者，將來恐怕也不會消失。

• Discord confirms AI moderators have banned thousands over harmless images
• La IA de Discord se equivoca y banea a usuarios por imágenes inofensivas
• Discord accidentally banned over 8,000 people for posting grids and other ‘benign’ images
• Discordで格子状の模様を含むスクリーンショットやその他の無害な画像を投稿したユーザー8000人以上が誤ってBANされていたと判明
• 「Discord」アカウントブロックの発生について声明を発表。安全システムの誤作動が原因とし再発防止に努める

（首圖來源：Discord）