感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 21 時間:
課程簡介
基礎:Agentic AI 的威脅模型
- Agentic 威脅類型:濫用、權限提升、資料洩漏及供應鏈風險
- 針對自主代理的對抗者檔案及攻擊者能力
- 映射代理的資產、信任邊界及關鍵控制點
治理、政策與風險管理
- Agentic 系統的治理框架(角色、職責、審批關卡)
- 政策設計:可接受的使用、升級規則、資料處理及可稽核性
- 合規考量及稽核證據收集
代理的非人類身份識別與驗證
- 設計代理身份識別:服務帳號、JWT 及短壽命憑證
- 最小特權存取模式及即時憑證化
- 身份識別生命週期、輪換、委派及撤銷策略
存取控制、密鑰與資料保護
- 針對代理的細粒度存取控制模型及基於能力的模式
- 密鑰管理、傳輸中及靜態加密、資料最小化
- 保護敏感知識來源及個人資訊 (PII) 免受未授權的代理存取
可觀測性、稽核與事件回應
- 設計代理行為遙測:意圖追蹤、命令日誌及來源證明
- SIEM 整合、警報閾值及法醫準備
- 針對代理相關事件及封鎖的運維手冊及劇本
Agentic 系統的紅隊測試
- 規劃紅隊演練:範圍、參與規則及安全故障轉移
- 對抗技術:提示注入、工具濫用、思維鏈操縱及 API 濫用
- 執行受控攻擊並衡量暴露度及影響
加固與緩解措施
- 工程控制:回應限流、能力門控及沙箱化
- 政策及編排控制:審批流程、人在循環中、治理掛鉤
- 模型及提示層防禦:輸入驗證、正規化、輸出過濾器
安全代理部署的運營化
- 部署模式:代理的階段性、金丝雀及漸進式推送
- 變更控制、測試管線及部署前安全性檢查
- 跨功能治理:安全、法律、產品及運營劇本
綜合項目:紅隊 / 藍隊演練
- 對沙盒代理環境執行模擬紅隊攻擊
- 藍隊利用控制及遙測進行防禦、偵測及修復
- 呈報發現、修復計劃及政策更新
總結與下一步
最低要求
- 具備安全工程、系統管理或雲端運作的紮實背景
- 熟悉 AI/ML 概念及大型語言模型 (LLM) 的運作行為
- 擁有身份識別與存取管理 (IAM) 及安全系統設計的經驗
受眾
- 安全工程師及紅隊人員
- AI 運維及平台工程師
- 合規官員及風險管理人員
- 負責代理部署的工程主管
客戶評論 (1)
库存盘点及识别AI内部的不同风险敞口
Gary Cook - Cybersecurity and Information Technology Risk Division
課程 - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
機器翻譯