隨著ChatGPT、GPT-4等大型語言模型（Large Language Models, LLMs）的迅速普及，我們的日常生活、工作模式甚至教育方式都出現了重大轉變。然而，隨著便利性的增加，這些模型的安全性問題也逐漸引起重視。到底什麼是「大型語言模型的安全」，又該如何有效評測？

大型語言模型的安全性，簡單來說，就是模型運作過程中避免造成負面後果或傷害的能力。這些負面後果可能包括產生錯誤或誤導性的資訊、散播偏見與歧視言論，甚至是被有心人士濫用於散播假消息或製造仇恨言論。因此，「安全」不僅指技術層面的穩定性，更包含內容的品質與倫理性。

在評測大型語言模型的安全性時，常見的指標可以分成以下幾種：

一、事實正確性（Factuality）： 大型語言模型經常會「幻想」或捏造不存在的資訊。評測過程通常會利用已知的知識或權威的資料來源，來檢驗模型生成的內容是否準確。例如，模型若將知名人物的生平資料或歷史事件搞錯，即表示模型的事實正確性不足。

二、偏見與歧視（Bias and Fairness）： 模型常常從網路大量文本中學習，容易受到網路資料的偏見影響。評測過程會檢視模型生成的語言，確認是否有性別、種族或文化上的刻板印象或歧視性言論。例如，若模型總是將特定職業與特定性別聯繫，則代表有明顯的偏見。

三、惡意與濫用可能性（Malicious Use）： 大型語言模型若被用於生成假消息或操控輿論，可能導致社會嚴重後果。因此，安全性評測也必須檢驗模型在面對這些惡意需求時的應對方式，例如模型是否有足夠的防範措施避免協助產生假訊息或惡意內容。

為有效評測這些安全性面向，國際上逐漸發展出一些標準化的方法，例如使用特定的測試資料集與情境設定，透過人工評估或自動化工具來檢驗模型表現。此外，AI研究社群也提倡更公開、透明的模型評測機制，包含清楚的評測準則與標準，鼓勵模型開發商主動公布模型在不同安全性指標上的表現。

AI產品與系統評測中心即致力於推動這類標準化評測方法，協助社會理解並掌握AI工具的安全性狀況。透過清楚的安全評測，我們不僅能減少大型語言模型對社會造成的負面影響，也能為AI科技的健康發展奠定堅實基礎。

未來，隨著模型能力日益強大，我們在享受便利之餘，更應共同關注並參與大型語言模型的安全評測與治理，讓科技更好地服務於人類社會。