跳到主要內容

[標題]最新消息

從風險到驗證:認識 OWASP AISVS AI 安全驗證標準

知道大樓可能失火,不代表消防設備已通過驗收;AI 安全亦然。當代理式 AI 能操作工具、存取資料,僅辨識提示注入與資料外洩等威脅,已不足以證明「防護是否有效」。相較於 OWASP 十大風險清單著重威脅辨識,OWASP 於 2026 年 6 月 24 日發布的 AI 安全驗證標準(AISVS)1.0 則進一步提供可實作、可測試、可驗證的技術要求,讓 AI 安全從「知道有哪些風險」,走向「如何證明防護確實有效」。

這套標準以 OWASP 應用程式安全驗證標準(ASVS)為藍本,補上 AI 特有的安全需求,而非取代既有應用安全框架;OWASP 也將其定位為 NIST AI RMF、ISO/IEC 42001 等治理框架可以引用的技術控制層,而非取代這些框架。1.0 版共 12 個核心章節、191 項要求。標準設有三個驗證等級,從基本防護(Level 1)到高強度安全保證(Level 3);OWASP 建議多數正式營運系統至少以 Level 2 為目標,並搭配同等級的 ASVS 驗證,避免只檢查 AI 模型,卻忽略底層應用程式本身的安全問題。其核心理念在於,每項安全要求都應具備可驗證性,能透過測試、檢查或稽核確認是否落實,讓安全不再只是承諾,而是系統設計、開發與評估時可以共同引用的技術基準。

AISVS 的 12 個章節涵蓋 AI 系統從資料、模型到部署營運的不同安全面向,而非只關注模型最終輸出的內容。資料與供應鏈相關章節著重來源可信度、完整性與可追溯性;模型與部署則涵蓋生命週期管理、執行環境及存取控制;面對近年快速發展的代理式 AI,標準也將記憶、向量資料庫、Agent 行為以及模型上下文協定(MCP)納入驗證範圍,關注資料、模型與外部工具之間的信任邊界。這樣的架構代表 AI 安全不能只依靠單一防護措施,必須從整個系統生命週期建立多層次的控制。

有了這套方法,開發與測試有了可以共同引用的基準,而不是只提出「加強提示注入防護」這類籠統建議。AISVS 1.0 是目前的正式穩定版本,下一版 1.01 已在開發中。它並不代表通過驗證就能消除所有 AI 風險,真正帶來的改變,是把安全討論從「我們有做防護」推進到「哪些控制已經被驗證,又有哪些證據可以證明」。

相關連結:
OWASP AISVS 官方文件頁面 (另開視窗)