OpenAI:中俄等組織以 AI 技術試圖操縱全球輿論

作者 | 發布日期 2024 年 06 月 03 日 10:15 | 分類 AI 人工智慧 , 國際觀察 , 網路 line share follow us in feedly line share
OpenAI:中俄等組織以 AI 技術試圖操縱全球輿論


ChatGPT 開發商 OpenAI 5 月 31 日表示,過去 3 個月,OpenAI 已破壞 5 起祕密影響力行動,這些行動試圖利用 OpenAI 的人工智慧(AI)技術操縱世界各地輿論和影響地緣政治。

法新社報導,OpenAI在一篇部落格文章中表示,被破壞的活動源自俄羅斯、中國、伊朗和一家位於以色列的私人公司。

威脅發動者試圖利用OpenAI強大的語言模型,進行生成評論、文章、社群媒體個人檔案以及除錯機器人和網站程式碼等任務。

OpenAI執行長阿特曼(Sam Altman)表示,這些行動「似乎並未因我們的服務,而顯著增加受眾參與度或擴大受眾」。

OpenAI等公司正受到密切關注,因為各界擔心ChatGPT或圖片生成工具Dall-E等應用程式可能會在幾秒鐘內大量生成欺騙性內容。

在全球各地即將舉行重大選舉之下,俄羅斯、中國和伊朗等國家在投票日前,利用祕密社群媒體行動加劇緊張局勢,這一點尤其令人擔憂。

其中一個行動叫做「文法錯誤」(Bad Grammar),是先前俄羅斯針對烏克蘭、摩爾多瓦、波羅的海國家和美國的未報告行動。這項行動使用OpenAI模型和工具,在Telegram用俄語和英語撰寫簡短的政治評論。

另外,俄羅斯「分身」(Doppelganger)行動則利用AI在社群媒體X等平台上,撰寫英語、法語、德語、義大利語和波蘭語等語言的評論。

OpenAI也阻止了中國的「垃圾偽軍」(Spamouflage)影響力行動,此行動濫用OpenAI模型來研究社群媒體上的活動、並用多種語言撰寫貼文以及除錯網站程式碼。

(譯者:陳昱婷;首圖來源:pixabay

延伸閱讀: