支持 AI 安全開發，OpenAI、Anthropic 同意美政府進行模型安全評估

AI 安全問題一直受到產業和社會大眾的關注，OpenAI 和 Anthropic 兩大 AI 新創同意讓美國政府旗下單位在模型發表前進行安全測試，幫助提升安全性。

OpenAI、Anthropic 與美國商務部 NIST（National Institute of Standards and Technology，國家標準暨技術研究院）旗下的 AI 安全研究所（U.S. AI Safety Institute）簽署合作備忘錄，同意在公開發表模型之前及事後，提供模型存取權給 AI 安全研究所，這個步驟有助於雙方共同評估新模型的安全風險和潛在問題。不只如此，美國的 AI 安全研究所將與英國的對應機構合作，提供安全相關的測試回饋。

「我們支持美國 AI 安全研究所使命，期待共同努力，為 AI 模型提供安全的最佳實踐和標準」，OpenAI 策略長 Jason Kwon 透過聲明對外媒 CNBC 表示。「Anthropic 與美國 AI 安全研究所合作，利用他們廣泛的專業知識，部署模型之前嚴格測試我們的模型」，Anthropic 共同創辦人 Jack Clark 認為，這強化 Anthropic 辨識問題和減輕風險的能力，推動負責任的 AI 開發。

「這些協議只是開始，它是我們努力幫助負責任管理 AI 未來的一個重要里程碑」，美國 AI 安全研究所所長 Elizabeth Kelly 表示。

we are happy to have reached an agreement with the US AI Safety Institute for pre-release testing of our future models.

for many reasons, we think it’s important that this happens at the national level. US needs to continue to lead!

— Sam Altman (@sama) August 29, 2024