AI 換臉的泰勒絲不雅照瘋傳,X 封鎖用戶搜尋、處置過慢惹議

作者 | 發布日期 2024 年 01 月 29 日 16:16 | 分類 AI 人工智慧 , 社群 , 資訊安全 line share follow us in feedly line share
AI 換臉的泰勒絲不雅照瘋傳,X 封鎖用戶搜尋、處置過慢惹議


近日 AI 換臉的泰勒絲(Taylor Swift)不雅照在 X(前身為 Twitter)平台流傳,迫使 X 阻止用戶在平台上搜尋泰勒絲的名字。不過 X 處置速度過慢,招致粉絲猛烈批評。

X 用戶約從 27 日開始注意到,含有泰勒絲名字的搜尋只會顯示錯誤訊息,因為運用「深偽技術」(Deepfake)製成的不雅照已在 X 傳播多日。

「X 嚴格禁止發布未經同意的非自願裸露(Non-Consensual Nudity,NCN)圖像,我們對此類內容採取零容忍政策。我們的團隊正在積極刪除所有已識別的圖像,並對發布這些圖像的帳號採取適當行動。我們正在密切關注事態發展,以確保立即解決任何進一步違規行為,並刪除相關內容,我們致力於為所有用戶維護一個安全且受尊重的環境」,X 聲明指出。

「這是一項臨時行動,我們執行這項措施非常謹慎,因為我們在此問題上優先考慮安全問題」,X 業務營運負責人貝納羅奇(Joe Benarroch)27 日晚間向《華爾街日報》表示。

泰勒絲是當今世上最暢銷、最具影響力的歌手之一,疫情過後自 2023 年 3 月展開時代巡迴演唱會(The Eras Tour),掀起所謂「泰勒斯經濟學」(Taylornomics)效應,《富比世》估計,此一巡演可為美國經濟帶來高達 46 億美元消費者支出,可見她的驚人魅力,也不難理解不雅照為何快速傳播。

不雅照在 24 日瘋傳後,Swifties(泰勒絲粉絲暱稱)自動自發檢舉分享照片的 X 帳號,並在與泰勒絲有關的主題標籤(hashtag)努力加入正面內容,盡可能讓不雅照減少曝光。而 X 對泰勒絲不雅照的處置遭到批評,因為處置速度慢了好幾步,儘管許多違規帳號遭到停權處分,但多則推文已被瀏覽數百萬次,國外媒體 The Verge 25 日報導稱,其中一則推文瀏覽量甚至超過 4,500 萬次。

儘管 X 做出處置,不過在茫茫網海無法刪除每一張不雅照。國外媒體 404Media 追蹤到這些圖像可能來自一個 Telegram 群組,該群組使用 Microsoft Designer 等免費工具 AI 生成女性裸露圖像而聲名大噪。這也讓微軟執行長納德拉(Satya Nadella)26 日接受 NBC 新聞專訪痛心,認為此一問題凸顯微軟開發 AI 的責任,「我們需要在技術周圍設置適當防護,以便製作出安全的內容」,他受訪強調。

(首圖來源:達志影像)