2024 選舉年,OpenAI 提出工具防止不實圖文資訊濫傳

作者 | 發布日期 2024 年 01 月 16 日 16:41 | 分類 AI 人工智慧 , 資訊安全 line share follow us in feedly line share
2024 選舉年,OpenAI 提出工具防止不實圖文資訊濫傳


AI 熱潮下,人們越來越擔心氾濫的 Deepfake 影像以及其他 AI 生成內容,在選舉期間誤導選民做出不準確的選擇。

2024 可說是超級選舉年,包括台灣、美國在內,全球將有 76 個國家上演選舉大戲。OpenAI 15 日提出新工具,讓聊天機器人 ChatGPT 能夠提供目前事件相關資訊,同時幫助選民確認圖像是否為 AI 生成。

針對 ChatGPT,OpenAI 將使人們能夠使用聊天機器人取得目前事件的即時資訊,並提供新聞來源和連結。不只如此,OpenAI 與全美州務卿協會(National Association of Secretaries of State,NASS)合作,將選民引導至美國投票資訊權威網站 CanIVote.org,以提供準確的選舉資訊。「資訊來源的透明度和平衡可以幫助選民更好評估資訊,並自行決定可以信任什麼」,OpenAI 表示。

OpenAI 開始使用來源資訊對圖像生成工具 DALL·E 3 的圖像加上數位憑證,來源資訊是有關內容來源的資料,例如圖像製作者、製作時間,可以幫助選民了解他們在網路上看到的圖像是否 AI 生成。這個過程使用 C2PA(Coalition for Content Provenance and Authenticity,內容出處和真實性聯盟)制定的加密標準,C2PA 背後是 Adobe、微軟、英特爾及其他公司在 2021 年結盟、制定標準。

OpenAI 也表示將發表一款影像偵測工具,人們可以用它查詢影像是否是由 DALL·E 生成,為此 OpenAI 先向記者、網路平台以及研究人員提供這項工具,同時徵求意見回饋。

值得一提的是,許多試圖確認特定圖像或文字是否 AI 生成的檢測工具,在準確性遭遇問題,OpenAI 技術長穆拉蒂(Mira Murati)過去受訪曾表示,該公司一直在開發圖像檢測工具,內部測試的準確率達到 99%。

AI 工具雖然大幅提升生產力,卻被不肖人士濫用,製造不實資訊、虛假圖像。OpenAI 做為 AI 熱潮下代表性公司,「保護選舉公正性需要民主進程各方面合作,我們希望確保我們技術不會以可能破壞民主進程的方式被利用」,OpenAI 表示。

(首圖來源:pixabay

延伸閱讀:

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》