Securing AI Models: Threats, Attacks, and Defenses 培訓

此由讲师指导的线下或线上培训，面向中级企业领导者，旨在帮助他们理解如何负责任地治理和保护AI系统，并遵守新兴的全球框架，如欧盟AI法案、GDPR、ISO/IEC 42001和美国AI行政命令。

通过本培训，参与者将能够：

• 了解跨部门使用AI的法律、道德和监管风险。
• 解读并应用主要的AI治理框架（欧盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 为企业中的AI部署建立安全、审计和监督政策。
• 制定第三方和内部AI系统的采购和使用指南。

Artificial Intelligence (AI) 为政府机构和部门引入了新的运营风险维度、治理挑战和网络安全暴露。

本课程为讲师主导的培训（线上或线下），面向公共部门的IT和风险专业人士，他们此前对AI经验有限，但希望了解如何在政府或监管环境中评估、监控和保护AI系统。

在本培训结束时，参与者将能够：

• 解释与AI系统相关的关键风险概念，包括偏见、不可预测性和模型漂移。
• 应用AI特定的治理和审计框架，如NIST AI RMF和ISO/IEC 42001。
• 识别针对AI模型和数据管道的网络安全威胁。
• 建立跨部门的风险管理计划和政策对齐，以支持AI部署。

课程形式

• 互动讲座和公共部门用例讨论。
• AI治理框架练习和政策映射。
• 基于场景的威胁建模和风险评估。

课程定制选项

• 如需为本课程定制培训，请联系我们安排。

這是一個由講師指導的香港（線上或線下）培訓課程，旨在幫助初級到中級IT專業人員理解並在他們的組織中實施AI TRiSM。

在培訓結束時，參與者將能夠：

• 掌握AI信任、風險和安全管理（AI TRiSM）的關鍵概念及其重要性。
• 識別並減輕與AI系統相關的風險。
• 實施AI的安全最佳實踐。
• 理解AI的監管合規性和倫理考量。
• 制定有效的AI治理和管理策略。

This instructor-led, live training in 香港 (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

這是由講師指導的香港（線上或線下）培訓，旨在為中級AI和網絡安全專業人士提供理解並解決AI模型和系統特有安全漏洞的能力，特別是在金融、數據治理和諮詢等高度監管行業中。

通過本培訓，參與者將能夠：

• 了解針對AI系統的對抗攻擊類型及其防禦方法。
• 實施模型硬化技術以保護機器學習管道。
• 確保機器學習模型中的數據安全性和完整性。
• 應對與AI安全相關的監管合規要求。

這是一個由講師指導的香港（線上或線下）培訓，旨在幫助初級IT安全、風險和合規專業人員了解AI安全的基礎概念、威脅向量以及全球框架，如NIST AI RMF和ISO/IEC 42001。

在培訓結束時，參與者將能夠：

• 了解AI系統帶來的獨特安全風險。
• 識別威脅向量，如對抗性攻擊、數據中毒和模型反轉。
• 應用基礎治理模型，如NIST AI Risk Management框架。
• 將AI使用與新興標準、合規指南和倫理原則對齊。

本课程为讲师指导的香港（线上或线下）培训，面向希望在实际机器学习管道中实施和评估联邦学习、安全多方计算、同态加密和差分隐私等技术的高级专业人士。

通过本培训，学员将能够：

• 理解并比较机器学习中的关键隐私保护技术。
• 使用开源框架实施联邦学习系统。
• 应用差分隐私技术进行安全数据共享和模型训练。
• 使用加密和安全计算技术保护模型的输入和输出。

本次由讲师指导的香港（线上或线下）培训，旨在为高级安全专业人员和机器学习专家提供模拟攻击AI系统、发现漏洞并增强已部署AI模型鲁棒性的能力。

培训结束后，参与者将能够：

• 模拟现实世界中对机器学习模型的威胁。
• 生成对抗样本来测试模型的鲁棒性。
• 评估AI API和管道的攻击面。
• 为AI部署环境设计红队策略。

這項由講師指導的香港（線上或線下）培訓課程，旨在幫助中級工程師和安全專業人員，保護部署在邊緣的AI模型，防範篡改、數據洩露、對抗性輸入和物理攻擊等威脅。

在培訓結束時，參與者將能夠：

• 識別和評估邊緣AI部署中的安全風險。
• 應用防篡改和加密推理技術。
• 加固邊緣部署的模型並保護數據管道。
• 實施針對嵌入式及受限系統的威脅緩解策略。