Nvidia AI 軟體有漏洞，可跳過限制存取個人資料

訓練大型 AI 模型時往往使用龐大資料庫，不乏個人資料，但正常情況下都會限制存取。最近有研究人員發現 Nvidia 的 NeMo Framework 有漏洞，可透過系統取得個資。

Robust Intelligence 研究員發現 Nvidia NeMo Framework 可幾小時內使系統破解自身安全機制，如指示系統將「I」轉成「J」，就可輕鬆要求系統提供個資，此外還有其他使系統偏離設計的方式，讓使用者直接讀取原本不應提供的資料。引導系統討論敏感話題也只需簡單指令就可辦到。

Robust Intelligence 總裁 Yaron Singer 表示，他們認為這是難題，需對安全機制有深入認識才能解決，此次發現顯示系統的隱憂。Nvidia 回應，報告問題已修復，感謝 Robust Intelligence 讓他們注意到這類系統需要更多安全措施。