隨著科技快速發展，生成式 AI 正從聊天工具走入實際工作流程，逐漸具備自主規劃、查詢資料及執行操作等能力，形成「代理式 AI」；以其為核心、能處理實際任務的系統，則稱為「代理式應用程式」。
然而，代理式應用程式帶來便利，也伴隨新的資安風險。一旦接收到錯誤或惡意指令，可能造成資料外洩、檔案刪除，甚至未經授權的交易。OWASP 因此在《2026 年代理式應用程式十大風險》中列出以下威脅：
- ASI01 代理目標劫持：遭操控的提示、資料或訊息改變 AI 代理的目標、規劃或決策。
- ASI02 工具濫用與利用：AI 代理因提示注入、目標錯置或模糊指令，不當使用合法工具。
- ASI03 身份與權限濫用：身份、憑證、委派或信任關係遭濫用，導致越權操作。
- ASI04 代理式供應鏈漏洞：代理、模型、工具、外掛或第三方服務遭竄改、冒充或植入惡意內容。
- ASI05 非預期程式碼執行：未受信任的輸入或模型輸出被當成程式碼執行，可能導致遠端程式碼執行。
- ASI06 記憶與情境污染：惡意或誤導資訊進入對話、記憶或 RAG 知識庫，持續影響後續決策。
- ASI07 不安全的代理間通訊：通訊缺乏驗證、授權或完整性保護，使訊息遭偽造、攔截、重播或竄改。
- ASI08 連鎖失效：故障、幻覺、惡意輸入或污染資訊在流程間傳播放大，造成系統性損害。
- ASI09 人機信任利用：利用使用者對 AI 代理的信任，操控其判斷、資訊揭露或高風險行動。
- ASI10 失控代理：惡意、受入侵或行為偏移的 AI 代理偏離預定功能或授權範圍，從事有害或未經授權的行為。
為降低風險，OWASP 提倡「最小代理權」，僅提供完成當前任務所需的工具、資料與權限。匯款、刪除檔案或對外發布等高影響操作仍應由人類確認，系統亦須完整記錄工具使用與操作過程。
AI 的挑戰不只在於是否聰明好用，更在於能否受到妥善限制與監督。唯有兼顧便利與安全，才能成為可信賴的輔助工具。