Google AI 搜尋引擎已開始出現詐騙與惡意軟體

生成式 AI 才剛起飛不久，犯罪分子卻已開始溜進了這些新應用當中。Google 去年 5 月推出的生成式搜尋體驗 SGE 現在就被人發現，已經開始有詐騙與惡意軟體出沒。

Google 最早是在去年 5 月的 I/O 大會中推出 SGE 服務，並在不久後在搜尋實驗室中推出了存取權限；雖然 SGE 提供使用者可獲取由人工智慧產生的概述與搜尋結果，但現在卻被惡意人士重新定向到惡意網站當中，這可能會使得 SGE 對使用者的吸引力變小。

外國 SEO 顧問 Lily Ray 就在上週使用了 SGE 來進行快速搜尋，卻發現了結果當中出現了一些可疑的建議；SGE 推薦了 Ray 多個與她搜尋相關的垃圾郵件與危險網站，以供她訪問。

OH GOOD.

SGE WILL EVEN RECOMMEND THE SPAM SITES AS PART OF THE ANSWER. pic.twitter.com/wqgFFXqbMB

— Lily Ray 😏 (@lilyraynyc) March 22, 2024

在 Ray 發出這項警告後，《BleepingComputer》也針對這些問題進行調查，報導中指出，這些網站都是 SEO 中毒活動的一部分，這些中毒活動使這些網站成為 Google 索引的一部分。假如你點擊其中一個連結，那麼就會被多次重新導向，最終就會被導入詐騙網站當中。這些網站通常會提供虛假的驗證碼或偽冒的 YouTube 影片，並試圖說服用戶允許瀏覽器通知。

《BleepingComputer》隨後也允許多個網站的瀏覽器通知，以了解有可能會發生哪些事。隨後桌面開始收到垃圾郵件，其中包括了技術支援詐騙廣告、虛假贈品，以及防毒軟體偵測到惡意軟體的虛假警報。

在某些情況下，無止盡的重新導向甚至會引發能夠劫持搜尋，與其他危險行為的惡意瀏覽器擴充功能。

雖然聽起來很糟，但好消息是 Google 已經迅速地刪除了一些垃圾搜尋結果。且 Google 也表示，將會繼續更新反垃圾郵件系統，以防垃圾郵件出現在搜尋當中，並利用這些反垃圾郵件保護措施來保護 SGE。

這也顯示，官方也不能保證其他不常見的搜尋可能會挖掘出其他詐騙網站，或犯罪分子未來不會找到其他繞過 Google 保護措施的新方法。

但也要提醒使用者，有時候即便 AI 建議你可以做哪些事，你也要對自己點擊的內容保持警惕。