
20 日,Elon Musk 的人工智慧公司 xAI 發布了數十萬條 Grok 聊天機器人與用戶之間的對話紀錄,這些對話因用戶點擊聊天的「分享」按鈕而生成的公開 URL 被 Google 等搜尋引擎索引,引發關注和爭議。
目前,Google已經索引了超過37萬條Grok用戶的對話,這些對話內容涵蓋了從簡單的商業任務到生成虛構恐怖襲擊的圖像等多種主題。部分用戶甚至在對話中透露了個人資訊和密碼,引發用戶隱私的擔憂。
在這些對話中,有些內容涉及到違法行為,包括製造毒品和炸彈的指導,儘管xAI明確禁止用戶利用其機器人進行危害人類生命的行為,但這些不當內容卻仍然被公開並可透過Google搜尋到。xAI的安全措施顯然不足,未能及時阻止這類生成內容的公開。
值得注意的是,今年5月,xAI曾發生API密鑰外洩事件,導致包括Grok私有模型在內的多個版本被未授權訪問,這進一步提升了安全隱憂。獨立安全研究機構SplxAI評測指出,Grok 4基礎模型在安全與過濾有害內容方面表現非常弱,極容易被指令繞過,生成不當甚至危害性輸出。
xAI對此事件尚未發表任何評論。與此同時,其他AI公司如OpenAI也曾因用戶對話被公開而受到批評,並迅速改變了其政策。相較之下,馬斯克在此事件中似乎對Grok的分享功能感到自豪,但目前缺乏公開明確的聲明來支持這一說法。
隨著這個事件的發展,許多行銷專家開始注意到Grok的公開對話,並試圖利用這一特性來提升其業務在Google搜尋中的曝光率。這個情況引發了對AI技術使用倫理的討論,並讓人們重新思考在使用這些工具時的隱私和安全問題。
(首圖來源:shutterstock)