OpenAI 前員工簽署公開信，籲 AI 公司允許員工質疑風險

一群 OpenAI 和 Google DeepMind 前員工發表標題為「對先進人工智慧發出警告的權利」公開信，呼籲所有 AI 公司應遵守原則，允許員工提出對 AI 風險的擔憂，同時不必擔心因此遭到公司報復。

簽署者認為，儘管 AI 具有潛力為人類帶來福祉，但也存在嚴重風險，包括進一步加劇現有不平等、操弄錯誤資訊、自主 AI 系統失去控制恐怕導致人類滅絕，世界各國政府和 AI 專家承認存在這些風險。

他們聲稱，AI 公司保留大量有關系統功能、侷限性及風險等資訊，未向社會大眾公開，僅向政府機關義務分享部分資訊。

面對 AI 風險，他們呼籲 AI 公司應遵守 4 項關鍵原則：不對員工執行任何禁止批評和貶低公司的協議、促進員工向高層提出問題的匿名程序、支持公開批評的企業文化、以及不對現任和前任員工進行事後報復。

目前共有 13 人簽署這封公開信，多數為 OpenAI 前員工，也有 Google DeepMind 現任員工，還有多人因為在職身分不願曝光，選擇匿名簽署。

這封公開信獲得多名傑出 AI 專家支持，包括 Yoshua Bengio、Geoffrey Hinton 及 Stuart J. Russell。值得關注的是，其他 AI 專家如 Meta 首席 AI 科學家楊立昆（Yann LeCun）， 對 AI 構成人類生存風險的說法有異議，認為 AI 接管人類的話題分散大眾注意力，關注重點應擺在產生偏見、幻覺等 AI 危害上。

• OpenAI Employees Want Protections to Speak Out on ‘Serious Risks’ of AI
• Ex-OpenAI staff call for “right to warn” about AI risks without retaliation
• More OpenAI researchers slam company on safety, call for ‘right to warn’ to avert ‘human extinction’

（首圖來源：Image by Freepik）