隨著生成式 AI 技術不斷演進,網路上有越來越多情色露骨的 AI 生成圖片、影片,未經被描繪的當事人同意便在網路上傳播,這些露骨的深偽技術(Deepfake)內容氾濫,令受害者相當痛苦。
Google 更新了線上安全功能,可從搜尋結果大規模刪除明顯的 Deepfake 內容,並從一開始防止它們大規模出現在搜尋結果中。
首先,當使用者成功要求從 Google 搜尋移除未經同意且包含自己的 Deepfake 內容,Google 的系統會掃描並移除所有副本,也會在與這個人相關的搜尋中過濾掉所有露骨虛假內容。
「這些保護措施在處理其他類型的未經同意影像已經證明是成功的,我們現在也為虛假露骨影像建立相同的功能」,Google 的產品經理 Emma Higham 表示,「這些努力目的是要讓使用者更加安心,特別是當他們擔心未來可能會出現類似內容」。
除改進回報和移除 Deepfake 內容的流程外,Google 搜尋也在更新排名系統,以好好處理有虛假內容風險的搜尋行為。
Google 為搜尋引擎推出排名更新,以降低搜尋結果中露骨虛假內容的排名。當人們特別搜尋這類內容並包含姓名的查詢,Google 會盡量顯示高品質、非露骨的內容,例如相關新聞報導。Google 今年所做的更新,已將這類查詢出現露骨圖片的曝光率降低 70% 以上。
Google 也在研究一種方法來區分真實且經同意的露骨內容(例如演員的裸露場景)和 Deepfake 所產生的虛假露骨內容,使合法影像透過搜尋可以浮出水面,同時降低 Deepfake 帶來的影響。
(首圖來源:Unsplash)