Google 強化搜尋安全,Deepfake 露骨內容曝光率減七成

作者 | 發布日期 2024 年 08 月 02 日 15:11 | 分類 Google , 網路 , 資訊安全 line share Linkedin share follow us in feedly line share
Google 強化搜尋安全,Deepfake 露骨內容曝光率減七成

隨著生成式 AI 技術不斷演進,網路上有越來越多情色露骨的 AI 生成圖片、影片,未經被描繪的當事人同意便在網路上傳播,這些露骨的深偽技術(Deepfake)內容氾濫,令受害者相當痛苦。

Google 更新了線上安全功能,可從搜尋結果大規模刪除明顯的 Deepfake 內容,並從一開始防止它們大規模出現在搜尋結果中。

首先,當使用者成功要求從 Google 搜尋移除未經同意且包含自己的 Deepfake 內容,Google 的系統會掃描並移除所有副本,也會在與這個人相關的搜尋中過濾掉所有露骨虛假內容。

「這些保護措施在處理其他類型的未經同意影像已經證明是成功的,我們現在也為虛假露骨影像建立相同的功能」,Google 的產品經理 Emma Higham 表示,「這些努力目的是要讓使用者更加安心,特別是當他們擔心未來可能會出現類似內容」。

除改進回報和移除 Deepfake 內容的流程外,Google 搜尋也在更新排名系統,以好好處理有虛假內容風險的搜尋行為。

Google 為搜尋引擎推出排名更新,以降低搜尋結果中露骨虛假內容的排名。當人們特別搜尋這類內容並包含姓名的查詢,Google 會盡量顯示高品質、非露骨的內容,例如相關新聞報導。Google 今年所做的更新,已將這類查詢出現露骨圖片的曝光率降低 70% 以上。

Google 也在研究一種方法來區分真實且經同意的露骨內容(例如演員的裸露場景)和 Deepfake 所產生的虛假露骨內容,使合法影像透過搜尋可以浮出水面,同時降低 Deepfake 帶來的影響。

(首圖來源:Unsplash

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》