Anthropic 共同創辦人暨執行長阿莫迪（Dario Amodei）認為，人類必須清醒過來，正視未來幾年強大 AI 系統可能帶來的災難性風險。
阿莫迪新發表一篇將近 2 萬字長文〈The Adolescence of Technology〉，勾勒出如果科技在缺乏制衡的情況下持續發展，可能浮現的種種風險，範圍從大規模失業一路延伸到生物恐怖主義。他是現今 AI 產業具影響力的企業家之一，這篇長文則對現行 AI 安全防護不足發出嚴厲警告。
「人類即將被賦予幾乎難以想像的力量，而我們的社會、政治及科技體系是否具備足夠成熟度來駕馭它，仍然極度不明朗」，阿莫迪文中寫到。
阿莫迪概述他所稱的「強大 AI」出現後可能引發的風險，這類 AI 系統「遠比任何一位諾貝爾獎得主、政治家或科技專家更有能力」，而他預測這樣的發展可能會在未來幾年內發生。
其中一項風險是，個人可能具備研發能夠殺害數百萬人的生物武器能力，甚至「在最壞的情況下，毀滅地球上所有生命」。
「那個精神錯亂、獨來獨往、想要殺人卻缺乏自律或技巧的獨行俠，如今將被提升至博士級病毒學家的水準。」阿莫迪說，「我擔心可能有很多這樣的人，如果他們能輕易獲得殺害數百萬人的方法，那麼遲早會有人這麼做。」
他也提到，AI 可能失控並壓制人類，或被威權政權與惡意人士利用，最終導致全球性的極權獨裁體制。
阿莫迪所領導的 Anthropic 是 OpenAI 主要競爭對手之一，他曾就美國政府監管方向，與 AI 與加密貨幣負責人薩克斯（David Sacks）意見相左。他將美國政府計劃向中國開放銷售先進 AI 晶片，比喻成把核武賣給北韓。
值得一提的是，美國總統川普（Donald Trump）上個月簽署一項行政命令，試圖阻撓各州對 AI 公司的監管行動，並在去年公布一份 AI 行動計畫（America’s AI Action Plan），擘劃加速美國創新的藍圖。
在這篇文章中，阿莫迪警告，AI 將帶來大規模失業，以及經濟權力與財富向矽谷集中等問題。
「這是陷阱所在：AI 的力量如此強大、獎勵如此耀眼，以至於人類文明幾乎難以對它施加任何限制」，阿莫迪補充說。
在一段暗指馬斯克（Elon Musk）旗下 Grok 爭議的敘述中，「有些 AI 公司在模型中，對兒童性化問題表現出令人不安的疏忽，這讓我懷疑，未來他們是否有意願或能力處理更高層次的自主風險」，阿莫迪說。
包括生物武器、自主武器與惡意國家行為人士在內的 AI 安全議題，曾在 2023 年成為公共討論焦點，部分原因正是來自阿莫迪等企業領導人的警告。他在文中指出，如今圍繞 AI 的政治決策，越來越多是出於搶占新技術的考量，而非降低風險。
「這種搖擺不定令人遺憾，因為技術本身並不在乎什麼風向，而我們在 2026 年距離真正的危險，已經比 2023 年近得多」，阿莫迪文中強調。
- ‘Humanity needs to wake up’ to dangers of AI, says Anthropic chief
- Anthropic’s CEO has a stark warning about AI
- Anthropic CEO Worries Humanity May Not be ‘Mature’ Enough for Advanced AI
（首圖為 Anthropic 共同創辦人暨執行長 Dario Amodei，來源：Flickr/TechCrunch CC BY 2.0）
科技新報粉絲團
加入好友
訂閱免費電子報
