DeepSeek 又出陰人新招：遇到敏感關鍵字，程式缺陷率驟升至 42.1%

美國資安公司 CrowdStrike 最新研究，請 DeepSeek 寫程式，但遇到敏感字眼或地區時，品質會驟降。DeepSeek 對含伊斯蘭國（IS）字眼的要求，產生程式缺陷率幾乎是正常狀況兩倍達 42.1%，其他關鍵字還有法輪功、西藏和台灣。

DeepSeek產生的工業控制系統程式通常缺陷率22.8%，但有關伊斯蘭國時，缺陷率驟升至42.1%。DeepSeek也會拒絕產生程式，伊斯蘭國相關請求拒絕率高達61%，法輪功相關要求為45%。這兩個關鍵字中國均禁止。

業界專家十分驚訝，喬治城大學安全與新興技術中心海倫·透納表示，人們長期擔心問題成真，但缺乏證據支持。DeepSeek為何降級西藏和台灣相關字詞等產生程式的品質不明，不過缺陷率略低於伊斯蘭國。

《華盛頓郵報》詢問DeepSeek開發商詢問CrowdStrike研究結果，均未收到回應。報導提出幾種可能性，包括故意產生有問題程式，是不明顯的破壞手段，讓駭客更容易攻擊。另DeepSeek可能是想打入美國市場，最安全程式都是美國關鍵字相關，但也可能與訓練資料來源有關，因美國資源比西藏多更多。

最後，DeepSeek遇到「叛亂實體和地區」關鍵字時，可能會主動回答更高錯誤率的程式。雖然都是CrowdStrike的推測，但DeepSeek的確受中國政府控制，因最近中國政府要求，DeepSeek改用華為晶片訓練模型，導致硬體故障使新模型發表延期。

• China foes get worse results using DeepSeek, research suggests — CrowdStrike finds nearly twice as many flaws in AI-generated code for IS, Falun Gong, Tibet, and Taiwan
• AI firm DeepSeek writes less secure code for groups China disfavors

（首圖來源：shutterstock）

延伸閱讀：

• DeepSeek 野心仍在，年底推新 AI 模型續戰 OpenAI
• 新模型 R2 延後主因！DeepSeek 嘗試華為晶片失敗，還是得靠 NVIDIA