代理式 AI (Agentic AI) 已從學術理論走向企業大規模應用。能夠理解意圖、推理目標並自主採取行動的 AI 代理，已成為企業中成長最快速的身分類型。然而，儘管這些身分能夠存取敏感資料，卻多數未經有效管理，往往規避了傳統身分安全與治理的防護措施。
AI 代理與人員及機器身分有何不同
與人員及機器相同，AI 代理也擁有身分，但其性質與管理方式與其他類型大相逕庭。人員、機器與 AI 代理的身分皆可存取資源並需經身分驗證(Authentication)，然而在身分安全與治理上，各自需要不同的管理策略。
人員身分
- 包括員工、承包商、合作夥伴、客戶與供應商。
- 依據在組織中的角色、職責及屬性，擁有明確的存取權限。
- 以人類判斷、經驗與道德考量為基礎做出決策。
機器身分
- 代表應用程式、服務或裝置。
- 遵循預先編程的線性工作流程，執行特定功能。
- 根據預設規則與設定進行決策。
AI 代理身分
- 代表能自主執行任務、做出決策，並與使用者或其他系統互動的軟體實體，無需直接的人為介入。
- 能根據即時輸入，自主運作，結合大量資料集、人工智慧與自然語言處理技術。
- 持續學習、調整並演化行為，依據所學模型與演算法獨立決策。
- 通常缺乏明確的擁有權、身分指派或稽核控管，部署時易產生管理盲點。
雖然人員、機器與 AI 代理身分皆可存取高度敏感資料並據以決策，但據估算，單一 AI 代理每小時可做出超過一百萬次決策，遠超過人類的規模與速度，並以指數方式提升風險。
自主 AI 代理的治理與安全缺口
傳統的身分安全與治理模型並未針對 AI 代理進行設計。AI 身分的發展已遠超現有工具的能力，具體體現在以下幾個層面：
- 角色型存取控制 (RBAC, Role-Based Access Control)模型原本為人員及定期審查週期設計，無法支援 AI 代理即時且自主的決策需求。
- 機密管理系統預設存取權限為靜態，難以因應 AI 代理所需的動態、推理導向存取模式。
- 法遵架構未將 AI 代理等數位身分納入考量，許多安全團隊甚至無法掌握其存在，這些身分卻可能跨越信任邊界。
AI 代理所帶來的風險與威脅
「無法治理就無法保護」這項資安鐵律，同樣適用於代理式 AI。然而，AI 代理的難以捉摸特性，導致治理極為困難，進而帶來重大的營運、聲譽與財務風險，並擴大攻擊面與脆弱點。
AI 代理的身分危機及其安全風險，源自多數組織（企業）無法回答關於代理式 AI 的基本問題，例如：
- 目前有多少 AI 代理正在運作？
- 他們能存取哪些系統與資料？
- 若發生異常，該如何關閉這些代理？
缺乏對 AI 代理身分的身分安全與治理，將帶來廣泛的威脅，包括：
- AI 代理憑證遭到入侵，導致未經授權的存取與特權提升
- 資料外洩與誤用，例如將敏感資料洩漏給未授權對象、操縱訓練資料使 AI 代理做出錯誤判斷或洩漏偏頗資訊，或因記錄、錯誤訊息等非預期管道而意外暴露敏感資料
- 產生新的敏感資訊但缺乏妥善治理或保護
- 對抗性攻擊，藉由未經授權的輸入欺騙 AI 代理做出錯誤判斷或執行惡意行為
- 拒絕服務攻擊，透過大量請求癱瘓 AI 代理的可用性
- 在 AI 代理軟體中植入惡意程式碼以操控其行為
- AI 代理過度消耗資源（如 CPU、記憶體、網路頻寬），導致系統不穩定或中斷
- 遭入侵的 AI 代理未經授權變更系統設定
- AI 代理無意間或惡意損毀、破壞系統檔案或資料庫
兼顧創新與治理的 AI 代理管理策略
如同人員與機器身分，AI 代理也必須經過身分識別與授權，方可存取資源並執行操作。這是確保安全、稽核及問責的基本要求。
為有效降低代理式 AI 所帶來的風險與威脅，身分安全與治理必須以即時自主為核心設計，而非沿用傳統的控管方式。組織（企業）需從以人為本、定期檢查的管控模式，轉向以身分為中心，具備持續性、動態性及情境感知能力的安全與治理策略。
確保 AI 代理安全的關鍵功能
為將身分安全與治理擴展至 AI 代理，組織（企業）需採用能因應這類新型身分特殊挑戰的解決方案，以降低其固有風險。以下功能與特性至關重要：
- 在 AI 代理建立時即指派身分及擁有權。
- 實施即時、意圖感知的存取控管。
- 支援動態認證與撤銷機制。
- 即時監控代理行為。
- 能以機器速度偵測、評估並處理高風險或異常行為。
- 以政策為基礎的防護措施，符合法規與內部標準。
確保對代理行為、存取及問責的可視性，包括：
- 集中式身分儲存庫，用以統一管理 AI 代理的身分，並一覽其存取權限、授權及所有活動。
- 彙整來自各系統與應用程式的存取資料，全面掌握 AI 代理的存取模式。
- 報告與分析功能，追蹤 AI 代理活動、識別趨勢並偵測異常。
AI 代理身分與擁有權指派：
- 自動化 AI 代理身分配置，確保每一代理自建立起即具備唯一且可驗證的身分。
- 可自訂屬性（如代理類型、用途及擁有者），以利治理與報告。
- 可將每個 AI 代理的擁有權與問責責任指派給特定個人或團隊。
即時、意圖感知的存取控管：
- 屬性為基礎的存取控管（ABAC, Attribute-Based Access Control , 屬性型存取控制），根據代理、資源及情境屬性，靈活制定細緻的存取政策，並可根據意圖調整。
- 政策引擎協助組織（企業）定義並強制執行 AI 代理的存取政策，確保其僅擁有必要權限。
- 與工作流程及工單系統整合，自動化 AI 代理的存取請求與核准，實現即時存取，並支援 AI 代理生命週期及角色變更管理。
- 意圖感知存取控管，有助於根據情境定義並執行適用於 AI 代理的存取政策。
- 為 AI 代理實施職能分離(SOD , Segregation of Duties)控管，防止代理執行相互衝突的任務，降低舞弊或錯誤風險。
動態認證與撤銷機制：
- 與機密管理解決方案整合，安全儲存及管理 AI 代理憑證。
- 自動化 AI 代理憑證輪替，降低憑證被竊或濫用風險。
- 發生資安事件或違規時，自動撤銷 AI 代理的存取權限。
即時監控 AI 代理行為：
- 持續監控 AI 代理活動，包括資料存取、API 呼叫及系統資源使用情形。
- 整合行為分析工具，建立 AI 代理正常行為基線並偵測異常。
- 使用者行為監控（UAM），追蹤並稽核 AI 代理與應用程式及系統的互動。
高風險或異常 AI 代理行為偵測與應變：
- 能識別不尋常或具風險的 AI 代理行為。
- 根據安全資訊和事件管理（SIEM）或其他安全系統的警示，自動啟動事件應變流程。
AI 代理需要全新治理架構，因應新型態身分
隨著代理式 AI 的興起，自主型數位身分類別應運而生，這也意味著身分安全與治理必須採取全新方法。AI 代理需要專屬解決方案，讓組織（企業）能如同管理人員與機器一般，為其指派擁有權、限定存取範圍、即時監控並落實問責。
拖延或僅依賴現有工具，將導致治理失控，後果不堪設想。組織（企業）必須在 AI 代理發展超越治理能力之前，優先確保其安全。
免責聲明：本文內容僅供參考，並非任何形式的法律建議。SailPoint 無法提供法律意見，建議您就相關法律問題諮詢專業律師。
