2026年5月Google威脅情報小組(GTIG)發布關於網路犯罪濫用AI的調查報告，指出攻擊者正將生成式模型應用於規模化的作業流程中。
在漏洞發現與利用方面，GTIG首次偵測到有攻擊者計劃利用AI開發的零時差漏洞進行大規模攻擊行動，所幸及時發現並成功攔阻潛在威脅。前沿大型語言模型(LLM)擅長識別傳統掃描工具難以偵測的高階語義邏輯缺陷，使攻擊者能以更高效率建構精密的攻擊工具。
AI驅動的編碼能力也顯著增強攻擊者的開發效率與防禦規避能力，攻擊者正利用AI加速建構基礎設施套件與開發多態惡意軟體。例如以LLM生成大量「誘餌邏輯」(Decoy Logic)並整合至惡意軟體中，這些無效但看似合理的程式碼片段能有效混淆自動化偵測系統，並隱藏惡意軟體的真實意圖。
惡意軟體的操作朝向自動化編排與自主化方向演進，例如惡意軟體整合自主代理模組，利用LLM解讀系統的視覺層次結構，動態生成指令以操控受害者的環境，不再單純依賴人類下達指令，而能根據受害裝置的即時狀態進行決策。
在資訊作戰領域，AI逐漸轉向「代理工作流程」(Agentic Workflows)，攻擊者使用相關自主攻擊框架，執行多階段安全任務。攻擊者也透過大規模生成合成媒體和深度偽造內容來冒充合法媒體與記者，藉此製造數位共識並傳播特定敘事。
為了支援上述大規模行動，攻擊者發展出規模化存取LLM的技術，透過專業化的中介軟體、代理中繼或自動化註冊流程，尋求匿名化的高級模型存取權限，以非法繞過使用限制與帳號封禁，利用自動化腳本進行帳戶輪換，藉此維持穩定的高階AI能力供應，並將運營成本轉嫁給服務提供者。
AI環境本身也成為供應鏈攻擊的重點目標，攻擊者從受感染的AI軟體轉向更廣泛的網路環境。藉由獲取初始存取權限，部署勒索軟體、竊取雲端金鑰或進行敲詐勒索等破壞性活動，AI生態系統的整合已成為新的安全薄弱環節。
AI為攻擊者提供了強大武裝，同樣也被用於加強防禦，如AI代理主動尋找軟體漏洞，並利用相關工具自動修復程式碼。AI驅動的威脅日益增長，建立有效安全機制刻不容緩。