國家資通安全研究院於11月15日成立臺灣首間AI驗證機構，旨在為國內AI產業提供驗證服務，以降低AI產品帶來的風險。驗證機構的首要任務是針對語言模型產品進行不當內容方案驗證，確保語言模型回覆不當內容的風險得到有效控管。此驗證服務將有助於減輕AI產品可能對使用者造成的社會危害，並提升大眾對AI技術的信賴。
隨著AI應用日益普及，AI涉及的倫理道德、系統可靠性和隱私安全等問題也日益受到關注。為此，資安院將於驗證服務中引入專家查核機制，用以對廠商提交的測試報告和說明文件進行深入評估，旨在全面審視AI產品的安全性、資安性及隱私保護能力。資安院強調，這種嚴格的驗證過程將有助於提升AI產品的整體品質，確保其符合市場與行業規範，同時為企業與民眾建立更為堅實的AI信任基礎。
依循行政院臺灣AI行動計畫2.0(2023-2026)，在數位發展部數位產業署的支持下，資安院打造首座AI驗證機構，與工研院AI測試實驗室共同致力於協助國內AI產業朝安全可靠方向發展。驗證機構將透過嚴謹的驗證程序，對廠商提交的查驗文件進行查核，致力確保AI產品能安全、可靠及穩定地運行。
AI驗證機構的成立象徵著台灣在AI產業信賴、安全與資安領域邁出重要一步。目前AI驗證機構正處於試運行階段，在此期間將以評價服務取代正式驗證。通過提供專業的評價服務，為企業及民眾打造更為堅實的AI信任基礎。隨著試運行期間的經驗累積，未來將逐步完善驗證機制，以適應快速發展的AI技術，確保台灣AI產業的長期健康發展。
