微軟副總裁提倡生成式AI融入安全框架 有助防範網路黑客

近期，詐騙活動成為熱門話題，使更多人探討網絡安全的重要性。在Microsoft AI Tour的香港站上，微軟安全副總裁Vasu Jakkal接受採訪時指出，必須重新定義數碼生態系統的保護方式。她表示，需要將生成式AI整合到安全框架中，以解決當前的挑戰，並為用戶和機構創造一個更安全的未來。

當被問及AI代理（AI Agent）將成為今年AI發展的一大趨勢及如何提升其保護時，Vasu表示，不論是AI還是AI Agent的發展，都需要基於正確的資料和安全結構。因此，她預期未來將有更多針對AI Agent的資安保護技術出現，而企業隨時都應將資安置於首要位置。

她還提出兩個值得關注的挑戰。首先是黑客利用生成式AI更快速、準確地收集和偵察資訊，創造更高級的惡意軟件，提高網絡釣魚攻擊的效果，加速破解密碼。其次，一些黑客開始通過提示注入（Prompt Injection）來污染大型語言模型（LLM），削弱LLM過濾惡意內容的能力，導致「模型中毒」。

面對全球性的資安人才短缺挑戰，她更提到Copilot for Security可作為一種聊天機器人形式，以自然語言與企業的資安人員互動。他們可以上傳檔案進行分析，或者讓Copilot for Security分析程式編碼，以找出漏洞，提高工作效率。