評估 AI 工具風險與能力,英國推出「Inspect」AI 安全測試平台

作者 | 發布日期 2024 年 05 月 20 日 8:10 | 分類 AI 人工智慧 , 網路 , 資訊安全 line share follow us in feedly line share
評估 AI 工具風險與能力,英國推出「Inspect」AI 安全測試平台


一個多月前,英美政府簽署合作備忘錄,承諾共同努力推動 AI 安全的發展,並同意合作開發測試最先進的 AI 模型。10 日英國 AI 安全研究院(AI Safety Institute)宣布推出名為「Inspect」的一套深具里程碑意義的 AI 安全測試工具集。 

「Inspect」可說是在英國政府轄下機構監督下的第一款對外公開使用的 AI 安全測試平台,舉凡測試人員(新創公司、學者和 AI 開發人員)乃至各國政府都能藉此評估個別 AI 模型的特定能力,該平台最後會根據結果生成一目瞭然的分數。

英國科技大臣唐萃蘭(Michelle Donelan)表示,做為英國在 AI 安全方面持續領先的一部分,她已批準對外開源 AI 安全研究院新推出的 Inspect 測試平台。

去年 11 月在英國舉行的 AI 安全峰會(AI Safety Summit)上,各國領導人探討了在應對 AI 技術相關潛在風險方面發起全球合作的必要性,英美兩國便是在這個基礎下締造了合作夥伴關係。兩國還同意與其他國家結盟,以促進全世界的 AI 安全,並計劃在公開模型上進行至少一次的聯合測試,同時透過跨組織的人員交流探索來挖掘集體專業知識。

全球智慧自動化公司 ABBYY AI 倫理倡導者 Andrew Pery 表示,顛覆性科技創新者傾向於採取「先上市再修正」的心態發布產品以獲得先發優勢。就以 OpenAI 為例,雖然該公司對 ChatGPT 的潛在風險有些透明,但他們在明知會對人們帶來有害影響的情況下仍對外發布。

如今,Inspect 平台的發布即為推動 AI 安全的拋磚引玉之舉,一方面為了喚起人們對 AI 安全意識的重視,一方面也讓人們擁有確保安全的 AI 評估工具。

(首圖來源:科技新報)