OpenAI 前員工簽署公開信,籲 AI 公司允許員工質疑風險

作者 | 發布日期 2024 年 06 月 06 日 12:39 | 分類 AI 人工智慧 , 資訊安全 line share follow us in feedly line share
OpenAI 前員工簽署公開信,籲 AI 公司允許員工質疑風險


一群 OpenAI 和 Google DeepMind 前員工發表標題為「對先進人工智慧發出警告的權利」公開信,呼籲所有 AI 公司應遵守原則,允許員工提出對 AI 風險的擔憂,同時不必擔心因此遭到公司報復。

簽署者認為,儘管 AI 具有潛力為人類帶來福祉,但也存在嚴重風險,包括進一步加劇現有不平等、操弄錯誤資訊、自主 AI 系統失去控制恐怕導致人類滅絕,世界各國政府和 AI 專家承認存在這些風險。

他們聲稱,AI 公司保留大量有關系統功能、侷限性及風險等資訊,未向社會大眾公開,僅向政府機關義務分享部分資訊。

面對 AI 風險,他們呼籲 AI 公司應遵守 4 項關鍵原則:不對員工執行任何禁止批評和貶低公司的協議、促進員工向高層提出問題的匿名程序、支持公開批評的企業文化、以及不對現任和前任員工進行事後報復。

目前共有 13 人簽署這封公開信,多數為 OpenAI 前員工,也有 Google DeepMind 現任員工,還有多人因為在職身分不願曝光,選擇匿名簽署。

這封公開信獲得多名傑出 AI 專家支持,包括 Yoshua Bengio、Geoffrey Hinton 及 Stuart J. Russell。值得關注的是,其他 AI 專家如 Meta 首席 AI 科學家楊立昆(Yann LeCun), 對 AI 構成人類生存風險的說法有異議,認為 AI 接管人類的話題分散大眾注意力,關注重點應擺在產生偏見、幻覺等 AI 危害上。

(首圖來源:Image by Freepik