Anthropic 近期開始允許 Claude Mythos 模型的早期用戶，將相關網路安全威脅資訊分享給其他可能面臨類似問題的用戶，藉此修正先前立場。先前外界擔憂限制這類資訊的取得，可能對較小型的公司造成傷害。
在名為 Project Glasswing 的資安計畫中，Anthropic 開放給大約 50 家大型企業和特定組織取得 Claude Mythos 預覽版的使用資格。這項計畫之目的，是讓這些公司以及政府得以在擴大存取權與可能推出更具能力的模型之前，先行處理各式的網路威脅。
Anthropic 一名發言人表示，Claude Mythos 用戶最初均已簽署保密協議，確保其網路風險資訊不會分享出去。上週 Anthropic 開始通知這些公司，只要以負責任的方式，他們可將網路威脅情報以及 Claude Mythos 所偵測到的問題，分享給其他單位。
「保密性的保護機制是合作夥伴在計畫一開始所要求的條件，並納入合作夥伴所簽署的協議中。隨著這項計畫日趨成熟，我們對此進行調整，以確保關鍵資訊能被廣泛分享，包括分享至計畫範圍外，以發揮最大的防禦效益」，Anthropic 發言人表示。
根據《華爾街日報》所看到的信件內容，美國一名資深的民主黨眾議員 Josh Gottheimer 寫給 Anthropic 執行長 Dario Amodei 的一封信表示，Anthropic 應讓 Claude Mythos 用戶能通知產業內可能面臨類似問題的其他同業。
「不應有任何單位在合約上被限制不得對外發出警告、協調緩解措施，或者不得將緊急網路風險告知相關且受信任的利害關係人」，Josh Gottheimer 信中寫到。他也是眾議院民主黨 AI 委員會的共同主席，他通常支持與許多業界高層立場一致的政策。
Claude Mythos 用戶其實已開始公開分享部分情報，網路安全公司 Palo Alto Networks 與 Firefox 開發商 Mozilla 近期皆表示，Claude Mythos 幫助他們找到比平常更多的軟體漏洞。
如何在限制存取的同時，仍允許用戶分享威脅資訊，是各家 AI 公司目前面臨的一大挑戰。Josh Gottheimer 等支持分享情報的人士主張，預先釋出新工具之目的，是為了讓包括公營事業和醫院在內的關鍵產業能對網路威脅做好準備，而不是要讓某些公司受惠而已。
但質疑的人士警告，若相關細節落入錯誤的人手中，可能造成漏洞曝光、引來網路攻擊。Anthropic 上個月就針對 Claude Mythos 的未授權存取展開調查，該公司對安全性的重視程度高於其他 AI 公司，並支持更嚴格的監管規範。
Claude Mythos 以及 OpenAI 一款與其相當的工具推出，讓川普政府和民間企業對於可能出現大規模線上動盪一事陷入恐慌。川普政府考慮頒布一項行政命令，可能對模型在推出之前加強監管。美國國會也預計在接下來幾週內，依據政府近期所公布的架構，就一項聯邦 AI 法案展開辯論。
（首圖來源：pixabay）
科技新報粉絲團
加入好友
訂閱免費電子報
