AI 產生內容也會有「身分證」了。近日 OpenAI、Meta 等七家科技巨頭承諾採用安全措施增加 AI 技術安全性。
七家科技巨頭不約而同談到 AI 監管問題並承諾共同開發浮水印系統，可嵌入人工智慧產生的所有內容，如文本、圖片、音訊和影片。看到內容有這浮水印，用戶就能辨識是否 AI 產生的假資訊，降低暴力、詐騙等不良資訊傳播風險。去年 ChatGPT 爆紅後，入局 AI 的科技巨頭都想拔得頭籌，使 AI 技術發展一日千里。不成熟的 AI 技術也衍生值得關注的問題，首當其衝的正是如何辨識資訊真實性。
2019 年某詐騙集團利用 AI 語音模仿軟體冒充大老闆，成功讓英國某能源公司 CEO 以為是與德國母公司老闆通話。詐騙集團使用 AI 技術類比語音，讓 CEO 立即轉帳 22 萬歐元至匈牙利某供應商帳戶，以避免繳納「滯納金」，並要求將轉帳資訊寄給他，CEO 毫不猶豫照做，當然 22 萬歐元就丟水裡了。
能源公司承保保險公司表示：「詐騙集團使用某種 AI 軟體，不但能模仿某人聲音語調，甚至能模仿德國口音英語。」被騙 CEO 信件憤怒寫道：「（假的）約翰尼斯甚至在我與真正約翰尼斯通話時，要求跟我通話。」
這離譜事件引發使用者擔憂 AI 無限制發展。突破常規的人工智慧技術用於詐騙，更像「猜猜我是誰？」進化版。但普通人的警惕心現在毫無用武之地，這還是 2019 年發生的事，只過三年，AI 技術迅速發展更讓人瞠目結舌，真實性問題也再次受大眾注意。
倘若以「AI 詐騙」為關鍵詞，至搜尋引擎篩選資訊，會發現 AI 詐騙事件比比皆是，這普遍性恰恰反映祭出有效措施有多迫在眉睫。
6 月歐洲議會以 499 票贊成、28 票反對和 93 票棄權，高票通過歐盟《人工智慧法案》，確定 AI 監管不可越過的紅線，基於 AI 四級（從風險最小到不可接受）區分管理，確保 ChaTGPT 等工具必須披露哪些內容是 AI 產生，以便區分 Deepfakes 圖片和真實圖片，並防止產生非法內容。
歐洲議會議員圖朵拉赫表示：「如果人工智慧開發者不這樣做，可能被迫立即刪除應用程式或遭罰款，罰款最高可達收入 7%。」可能高達數億歐元的罰款對科技巨頭也算得「傷筋動骨」了。
七家科技巨頭選擇技術層面資訊嵌入浮水印，一方面有利使用者辨識資訊真實性，方便使用者追溯內容源頭，另一方面也是對《人工智慧法案》的無聲回應，畢竟強如蘋果也不敢輕易放棄歐盟市場。儘管這也治標不治本，但話先說了再行動，公司和大眾都有個心理準備。
（本文由 愛范兒 授權轉載；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
