2024 選舉年，OpenAI 提出工具防止不實圖文資訊濫傳

AI 熱潮下，人們越來越擔心氾濫的 Deepfake 影像以及其他 AI 生成內容，在選舉期間誤導選民做出不準確的選擇。

2024 可說是超級選舉年，包括台灣、美國在內，全球將有 76 個國家上演選舉大戲。OpenAI 15 日提出新工具，讓聊天機器人 ChatGPT 能夠提供目前事件相關資訊，同時幫助選民確認圖像是否為 AI 生成。

針對 ChatGPT，OpenAI 將使人們能夠使用聊天機器人取得目前事件的即時資訊，並提供新聞來源和連結。不只如此，OpenAI 與全美州務卿協會（National Association of Secretaries of State，NASS）合作，將選民引導至美國投票資訊權威網站 CanIVote.org，以提供準確的選舉資訊。「資訊來源的透明度和平衡可以幫助選民更好評估資訊，並自行決定可以信任什麼」，OpenAI 表示。

OpenAI 開始使用來源資訊對圖像生成工具 DALL·E 3 的圖像加上數位憑證，來源資訊是有關內容來源的資料，例如圖像製作者、製作時間，可以幫助選民了解他們在網路上看到的圖像是否 AI 生成。這個過程使用 C2PA（Coalition for Content Provenance and Authenticity，內容出處和真實性聯盟）制定的加密標準，C2PA 背後是 Adobe、微軟、英特爾及其他公司在 2021 年結盟、制定標準。

OpenAI 也表示將發表一款影像偵測工具，人們可以用它查詢影像是否是由 DALL·E 生成，為此 OpenAI 先向記者、網路平台以及研究人員提供這項工具，同時徵求意見回饋。

值得一提的是，許多試圖確認特定圖像或文字是否 AI 生成的檢測工具，在準確性遭遇問題，OpenAI 技術長穆拉蒂（Mira Murati）過去受訪曾表示，該公司一直在開發圖像檢測工具，內部測試的準確率達到 99%。

AI 工具雖然大幅提升生產力，卻被不肖人士濫用，製造不實資訊、虛假圖像。OpenAI 做為 AI 熱潮下代表性公司，「保護選舉公正性需要民主進程各方面合作，我們希望確保我們技術不會以可能破壞民主進程的方式被利用」，OpenAI 表示。

（首圖來源：pixabay）