CyberArk 推出突破性開源工具 助企業防範AI模型越獄風
【香港】— 全球身份安全供應商CyberArk（NASDAQ: CYBR）20日宣佈推出尖端開源框架FuzzyAI，經測試能突破所有主要AI模型限制。FuzzyAI協助企業識別並解決AI模型漏洞，例如在雲端託管及內部AI模型中繞過防護措施及生成有害輸出。
為何選擇FuzzyAI : AI模型透過創新應用改變各行各業，涵蓋客戶互動、改善內部流程及自動化等領域。然而，這些模型的內部使用正帶來全新網絡安全挑戰，對此大多企業並未做好準備。
為應對上述挑戰，FuzzyAI為企業提供系統化方式，對AI模型進行各種對抗性輸入測試，反映安全系統中潛在的漏洞，從而實現更安全的AI開發及部署。FuzzyAI的核心是功能強大的模糊測試器（Fuzzer），能夠反映軟件的缺陷及漏洞。FuzzyAI透過超過十種不同的攻擊技術揭露漏洞，譬如繞過倫理篩選器或曝光隱藏的系統提示。FuzzyAI的主要功能包括：
