用 AI 快速生成 200 多個垃圾內容網站，詐騙集團詐騙個資並收取廣告費

釣魚詐騙網站早已存在，但生成式 AI 卻大幅降低了擴大這類行動規模所需的成本與時間。數位媒體安全方案商 DoubleVerify 的研究人員日前發現了一個由 200 多個「為廣告量身打造」之垃圾內容網站組成的協同網路，它是由單一詐騙團體營運，所有垃圾網站皆透過大型語言模型中的範本提示快速生成。

在被 DoubleVerify 稱為「AutoBait」的詐騙行動中，詐騙團體建立了一系列架構簡單的網站，內容多為帶有吸睛照片與標題的幻燈片頁面，其一方面誘騙毫無戒心的網路使用者分享敏感資料；另一方則從被欺騙的廣告主身上收錢，讓他們誤以為在這些網站投放廣告是有效的。

有別於過去的釣魚詐騙網站，這些垃圾內容網站的主要目的在於獲取數位廣告收入，換言之，所有文章不是為了培養讀者忠誠度，而是快速增加廣告曝光數。

詐騙者向大型語言模型（LLM）下達了非常具體的指示，包括要求模型在前幾張幻燈片中優先放入「最具煽動性或最令人震驚的內容」；標題必須「極度直白」，而正文則需要「在每一段文章中注入恐懼、憤怒、震驚等真實情緒」；此外更要求模型生成「極度逼真」的照片。

由於過去這些網域曾經承載過合法內容，這使得詐騙者能夠利用既有的網域歷史紀錄與流量。其中一個網站甚至保留一名已過世的金融部落客文章。

DoubleVerify 發現，「AutoBait」背後的詐騙團體生成每一個文章頁面的成本不到 2.25 美元。而且每個網站都布滿多個廣告橫幅，為詐騙者提供了迅速回收成本的管道。這意味著，合法品牌可能在毫不知情的情況下，資助了這樣的垃圾內容網站。

有趣的是，該團體將要求 AI 生成內容的提示，直接暴露在網站的 JavaScript 程式碼中，這也讓外界罕見地窺見 AI 如何被用來強化詐騙。總之，面對垃圾內容網站或釣魚詐騙網站，許多資安公司（包括 DoubleVerify）已推出針對AI垃圾內容/詐騙網站的偵測工具，使用者或廣告商可以藉助它們做好時刻防範詐騙的準備。