思科推出「人工智能防禦」解決方案，助企業提升AI應用安全性

2025年，人工智能（AI）的熱潮持續升溫，業界預期今年將有更多AI應用落地，企業在其發展中的部署也會更加普遍。然而，對企業而言，推動和實施AI並不簡單，需要了解AI在環境中的運作，並制定適當的治理政策。思科（Cisco）看準這一需求，宣布推出專為企業打造的「人工智能防禦」解決方案，旨在協助企業安全地開發、部署和保護AI應用程式。

思科執行副總裁暨首席產品總監Jeetu Patel指出，在充滿競爭和變化的商業環境中，速度是關鍵，同時快速應對安全問題和威脅不易。在擁抱AI技術時，企業不能為了追求速度而犧牲安全。因此，「思科人工智能防禦」應運而生，旨在讓企業在開發和使用AI應用程式時有效偵測和抵禦威脅，而不影響速度或安全。

根據思科2024《人工智能準備度指數》調查，目前只有41%的香港受訪企業認為自己具備偵測並防止AI被未經授權篡改的能力，可見風險仍然很高。AI應用涉及多模型和多雲端，引入新的複雜安全挑戰。漏洞有機會出現在模型或應用程式層級間，而不同層級涉及不同責任方，如開發者、終端用戶和供應商。此外，企業逐漸運用專有數據訓練模型，也使風險增加。

「思科人工智能防禦」針對以下功能：

‍
1. 發掘AI潛力：幫助企業安全團隊了解應用程式開發者及其訓練來源，能有效偵測雲端中未經授權或已授權的AI應用程式。

2. 驗證模型：提供自動偵測功能，以監察AI模型潛在安全問題。由AI驅動的紅隊可識別潛在漏洞並適時建議安全方案。

3. 安全運行：持續驗證以防範潛在威脅，如指令注入攻擊、拒絕服務攻擊及機密數據外洩。

4. 確保安全存取：隨著終端用戶使用更多AI工具來提高生產力，需防止數據外洩。「思科人工智能防禦」提供完整可視度與存取控制，以限制未經授權的工具並保護數據。

「思科人工智能防禦」解決方案將於3月上市。