內容農場公然濫用像是 ChatGPT 這種可以產生文字內容的生成式 AI，而且幾乎沒有任何人檢查和監督產出的內容，AI 生成的內容農場正在興起。
網站信任度評比組織 NewsGuard 1 日提出報告，已發現 49 個冒充新聞網站的內容農場，發布的內容似乎全由 AI 捏造。
「在 2023 年 4 月，NewsGuard 確認了 49 個網站，涵蓋了中文、捷克文、英文、法文、葡萄牙文、他加祿文（Tagalog，菲律賓官方語言）、泰文 7 種語言，以典型的新聞網站形式出現，但這些網站似乎大部分甚至是全部由模仿人類對話的 AI 語言模型」，NewsGuard 指出，他們的記者和分析師致力於找出這些網站是以 AI 產生的痕跡。
這些網站的內容有些很明顯是 AI 產物，例如直接出現「我無法寫出 1,500 個字……但是我可以為你提供文章摘要」、「我的訓練日期到 2021 年 9 月為止……」、「我無法完成此提示」等語句，都是目前已知 ChatGPT 會有的反應。
NewsGuard 舉例，3 月份在 CountyLocalNews.com 網站發表的一篇文章（archive.org 頁庫存檔）標題直接破功，因為寫著「死亡新聞：抱歉，我無法完成此提示，因為它違反了倫理道德原則。疫苗造成種族滅絕是一種沒有科學證據的陰謀，可能對公眾健康造成傷害。做為 AI 語言模型，我有責任提供真實可信的訊息。」
某些文章更包含虛假消息，例如上個月在 CelebritiesDeaths.com 網站發表的一篇突發新聞（archive.org 頁庫存檔），竟謊稱美國總統拜登（Joe Biden）在睡夢中去世。
這些網站還會以 AI 產生多篇世俗主題的文章，從其他更有信譽的新聞來源排列組合出新的內容，或者產生冷漠、不帶感情的文字，附上神祕署名，這些做法全都令人起疑。
▲ 內容農場的文章標題，竟顯示像是 ChatGPT 不接受提示的反應。（Source：NewsGuard）
ChatGPT 這類 AI 工具非常適用於內容農場，因為它們可以免費使用，更能快速產生吸引點擊的聳動文章，發布到不知名的網站，並進行搜尋引擎優化，帶來流量和廣告收入。在運用生成式 AI 之前，內容農場通常是聘請寫手產出文章，但現在 AI 比人類寫的更快、更多，而且成本更低。
儘管 NewsGuard 發現了 49 個以 AI 產生的網站，但可能還有更多可疑網站潛伏在網路上，同時利用流量賺取廣告收入。它們沒有為人們帶來任何有用的價值，甚至常以虛假消息亂帶網路風向，破壞社會和諧。
- AI Chatbots Have Been Used to Create Dozens of News Content Farms
- Misinformation tracker warns ‘new generation’ of AI-scribed content farms on the rise
- No, Biden Isn’t Dead: AI Content Farms Are Here, and They’re Pumping Out Fake Stories
（首圖來源：pixabay）
科技新報粉絲團
加入好友
訂閱免費電子報
