微軟攜手 OpenAI 合作發表的研究發現，由俄羅斯、北韓、伊朗以及中國支持的駭客組織試圖利用 ChatGPT 以及大型語言模型（Large Language Models，LLM）研究攻擊目標、改善指令碼並發起社交工程攻擊。
與俄羅斯軍事情報單位有聯繫的駭客組織 Strontium，在俄烏戰爭期間活躍行動。研究人員發現 Strontium 使用大型語言模型，對烏克蘭軍事行動的各種衛星和雷達技術進行研究，例如了解衛星通訊協定、雷達成像技術以及特定技術參數。此外，Strontium 一直使用大型語言模型幫助強化指令碼技術，包括文件操作、資料選擇、常用表達以及多工處理，以達成技術操作自動化和最佳化。
名為 Thallium 的北韓駭客組織一直使用大型語言模型研究目標組織和漏洞，幫助他們完成任務，微軟就觀察到 Thallium 假冒知名學術機構和非政府組織，誘騙受害者提供有關北韓外交政策的專家見解和評論。名為 Curium 的伊朗駭客組織也一直使用大型語言模型產生網路釣魚電子郵件，甚至產生避免被防毒軟體偵測到的程式碼。
不只如此，中國國家級駭客組織 Chromium 使用大型語言模型協助工具開發、指令碼編寫以及產生可用於社交工程攻擊的內容。Chromium 活動主要集中於台灣、泰國、蒙古、馬來西亞、法國、尼泊爾境內實體，甚至延伸至全球反對中國政策的組織和個人。
微軟和 OpenAI 尚未偵測到任何運用大型語言模型的重大攻擊行動，兩家公司已關閉與上述駭客組織有關的所有帳戶和資產，暫時阻斷他們默默運作的攻擊準備。
「我們認為這是一項重要研究，值得對外發表，以揭露我們觀察到威脅參與者嘗試進行的行動，並與我們防禦社群分享如何阻止和反擊他們的行動」，微軟表示。
現今網路攻擊在 AI 技術幫助下，更易於散播惡意攻擊、建立破解工具，人們憂心難以抵擋攻勢。微軟和 OpenAI 出示的報告證實人們的擔憂，不法分子探索和測試不同 AI 技術，試圖挖掘更多潛在技術價值，同時規避安全控制。
- Microsoft and OpenAI say hackers are using ChatGPT to improve cyberattacks
- Microsoft, OpenAI Warn of Nation-State Hackers Weaponizing AI for Cyberattacks
- Microsoft says it caught hackers from China, Russia and Iran using its AI tools
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
