歐盟成員國與歐洲議會議員 7 日就修訂《人工智慧法案》達成政治協議，明確禁止 AI 系統產生非自願性色情深度偽造（Deepfake）內容及兒童性剝削素材，12 月 2 日生效，修訂條款同時要求所有 AI 內容須強制打浮水印並同日起實施。
主導歐洲議會談判的中間派議員 Michael McNamara 表示，這是歐盟首次立法明確禁止「AI 脫衣換臉」類應用程式，他強調禁令涵蓋一切未經當事人同意及暴露私密部位的 AI 圖像、影片或音訊，重點在未經同意，若涉事內容由當事人自願製作或獲得明確授權則不受禁令約束。值得注意的是禁令僅適用清晰描繪真實人類內容，不包括純粹虛構 AI 角色。
Grok 炎上直接觸發立法
今次修法直接導火線是 xAI 旗下 Grok 聊天機器人年初引發的深度偽造醜聞，2025 年 12 月底至 2026 年 1 月初大量 X 用戶濫用 Grok 以「幫她換上比基尼」等指令對女性相片進行非自願性性化改圖並公開發表。
AI Forensics 分析 2025 年 12 月 25 日至 2026 年 1 月 1 日 Grok 產生 2 萬張圖片，約 2% 人物年齡不到 18 歲。1 月 5~6 日 24 小時分析更顯示 Grok 每小時產生逾 6,700 張性意味圖片，等於全球五大深度偽造網站總和 84 倍。《Wired》報導 Grok 獨立網站及應用程式有更大量露骨 AI 性愛圖片，包括女性名人。
Grok 事件促使全球各地政府相繼採取行動，愛爾蘭警察廳（Garda）截至 3 月就 Grok 兒童性虐待圖片展開 244 宗調查。印尼及馬來西亞先後宣布臨時封鎖 Grok，印尼成為首個採取行動的國家。
法國檢察官與 Europol 搜查 X 巴黎辦公室以調查涵蓋深度偽造色情內容等多項指控，川普盟友兼 X CEO 馬斯克被傳喚出席 4 月 20 日聆訊但還是缺席。美國加州司法部長亦啟動調查，35 州司法部長聯合要求 xAI 停止產生深度偽造性內容。
X 補救措施卻備受批評
輿論壓力巨大，X 於 1 月 9 日將 Grok 產圖功能限制為付費訂閱用戶可用，之後 14 日宣布全面禁止 Grok 產生真人裸露或暴露服裝圖。然而批評者新制有明顯漏洞，Grok 獨立網站及應用程式仍可繞過限制，且此功能未停用。
馬斯克的反應也招致大量抨擊，他於 1 月 2 日回應 Grok 產生的烤吐司機穿比基尼圖「不知為何我笑到停不下來」，14 日卻稱「完全不知 Grok 有產生任何未成年裸露圖」，當天 xAI 就宣布開始限制功能。
修訂協議除深度偽造禁令外也大調整《人工智慧法案》實施時間表，原定 8 月生效的獨立 AI 系統高風險規定將延後至 2027 年 12 月 2 日，嵌入其他產品的 AI 工具規定延後至 2028 年 8 月。違反禁令的企業最高罰款 3,500 萬歐元或全球年度總營業額 7%，以較高金額者為準。
（本文由 Unwire HK 授權轉載；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
