DeepSeek破解率100% R1上市2天就被破解 衍生效應曝光
聽新聞
test
0:00 /0:00
中國人工智慧（AI）新創「深度求索」（DeepSeek）以低成本、高性能的模型震撼矽谷乃至國際社會。不過，全球網路安全巨頭思科（Cisco Systems）執行副總裁巴特爾（Jeetu Patel）透露，DeepSeek的R1模型上市不到48小時便被破解，攻擊成功率達100%，造成「DeepSeek效應」（DeepSeek effect），也就是AI模型成本下降後數量激增，顯著加劇該領域的安全風險。
巴特爾（Jeetu Patel）告訴日經亞洲，當模型數量較少時，面對的挑戰相對較小，但隨著模型數量激增，這些挑戰將變得更加複雜，「因此，需要確保所有模型都內建安全防護標準」。
巴特爾表示，思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」，破解原先設定的操作規範和限制。
此外思科評估報告顯示，攻擊R1的成功率為100%，也就是說，它無法阻擋任何有害提示（prompt）。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下，OpenAI的AI模型被攻擊成功率為26%。
巴特爾談到，AI模型部署將遭遇許多「瓶頸」限制。他說：「我們的效能、網路連結、連接性都是瓶頸。安全也會是限制。計算、數據都會是限制。」
FB留言