構建安全且負責任的大語言模型應用培訓
大語言模型（LLM）應用安全是一門涉及設計、構建和維護使用大語言模型的安全、可信且符合政策的系統的學科。
本次由講師指導的培訓（線上或線下）面向中高級AI開發者、架構師和產品經理，旨在幫助他們識別和緩解與LLM應用相關的風險，包括提示注入、數據泄露和未經過濾的輸出，同時融入安全控制措施，如輸入驗證、人工監督和輸出防護。
通過本次培訓，參與者將能夠：
- 理解基於LLM系統的核心漏洞。
- 將安全設計原則應用於LLM應用架構。
- 使用如Guardrails AI和LangChain等工具進行驗證、過濾和安全性控制。
- 將沙盒、紅隊測試和人工審覈等技術集成到生產級流程中。
課程形式
- 互動講座與討論。
- 大量練習與實踐。
- 在即時實驗環境中進行動手操作。
課程定製選項
- 如需爲本課程定製培訓，請聯繫我們進行安排。
感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程時長 14 時間：
課程簡介
LLM架構與攻擊面概述
- LLM如何通過API構建、部署和訪問
- LLM應用堆棧中的關鍵組件（如提示、代理、內存、API）
- 實際使用中安全問題出現的位置和方式
提示注入與越獄攻擊
- 什麼是提示注入及其危險性
- 直接和間接提示注入場景
- 繞過安全過濾器的越獄技術
- 檢測與緩解策略
數據泄露與隱私風險
- 通過響應意外暴露數據
- PII泄露與模型內存濫用
- 設計注重隱私的提示與檢索增強生成（RAG）
LLM輸出過濾與防護
- 使用Guardrails AI進行內容過濾與驗證
- 定義輸出模式與約束
- 監控與記錄不安全輸出
人工監督與工作流方法
- 何時何地引入人工監督
- 審批隊列、評分閾值、後備處理
- 信任校準與可解釋性的作用
安全的LLM應用設計模式
- 爲API調用和代理實施最小權限與沙盒機制
- 速率限制、節流與濫用檢測
- 使用LangChain與提示隔離實現穩健的鏈式處理
合規性、日誌記錄與治理
- 確保LLM輸出的可審計性
- 維護可追溯性與提示/版本控制
- 與內部安全政策及監管需求保持一致
總結與下一步
最低要求
- 瞭解大語言模型和基於提示的界面
- 有使用Python構建LLM應用的經驗
- 熟悉API集成和基於雲的部署
受衆
- AI開發者
- 應用和解決方案架構師
- 使用LLM工具的技術產品經理
公開培訓課程需要5名以上參與者。
構建安全且負責任的大語言模型應用培訓 - 訂單
構建安全且負責任的大語言模型應用培訓 - 詢問
構建安全且負責任的大語言模型應用 - 咨詢詢問
即將到來的課程
相關課程
進階LangGraph：最佳化、除錯與監控複雜圖形
35 小時
這場在香港的線下培訓，針對進階AI平台工程師、AI的DevOps及ML架構師，旨在最佳化、除錯、監控並營運生產級的LangGraph系統，用於具狀態、多代理的LLM應用程式，以可組合的圖形呈現。
更多...
使用Devstral構建編碼代理：從代理設計到工具整合
14 小時
在香港舉辦的此現場培訓中掌握Devstral。課程涵蓋架構、代理工作流程設計和工具整合。適合高階工程師，課程使用實作實驗室來構建編碼代理，以提升現代開發環境中的生產力和安全性。
更多...
开源模型运维：使用 Devstral 与 Mistral 模型进行自托管、微调与治理
14 小時
本次由讲师指导的培训在香港中开展，面向希望掌握 Devstral 和 Mistral 模型自托管与微调技能的 ML 工程师。参与者将学习实用的治理、监控与合规技术，从而自信地在生产环境中部署开源 AI。
更多...
LangGraph在金融领域的应用
35 小時
本次由讲师指导的香港培训,帮助专业人士设计基于LangGraph的金融解决方案。参与者将学习实施符合监管要求的工作流、集成数据标准,并部署具备强大治理、可观测性与合规控制能力的系统。
更多...
LangGraph基础：基于图的LLM提示与链式调用
14 小時
本讲师引导的LangGraph基础课程在香港举办，帮助开发者构建基于图的LLM应用。学习节点、边、状态管理和分支逻辑等核心概念。集成工具、检索和外部API，然后通过动手实验测试并部署可靠的工作流。
更多...
LangGraph在医疗保健中的应用：受监管环境下的工作流编排
35 小時
通过本次在香港举办的培训，探索LangGraph在医疗保健领域的应用，适合中级至高级专业人士。学习设计有状态、合规的工作流，集成FHIR和SNOMED CT等标准，并应对受监管环境中的伦理与运营挑战。
更多...
適用於法律應用的 LangGraph
35 小時
透過在 香港 舉辦的 35 小時講師主導培訓，掌握適用於法律應用的 LangGraph。本課程適合中高階專業人士，內容涵蓋工作流程設計、合規控制與人機協作審批，協助您自信地建構可稽核且適用於正式環境的 LLM 解決方案。
更多...
使用LangGraph与LLM智能体构建动态工作流
14 小時
本次线上或线下课程在香港中指导中级工程师使用LangGraph构建动态LLM工作流。学习设计有状态图、实现分支逻辑，并集成检索、API和记忆，以构建稳健、具有上下文感知能力的应用。
更多...
LangGraph 行銷自動化
14 小時
這個由講師指導的培訓以香港介紹 LangGraph 行銷自動化。參與者將學習設計條件式內容工作流程、整合 LLM 以實現個人化電子郵件行銷活動，以及管理多步驟管道中的狀態，獲得現代行銷的實用技能。
更多...
Le Chat Enterprise：私有ChatOps、整合與管理控制
14 小時
此香港培訓涵蓋Le Chat Enterprise，這是一個私有ChatOps解決方案，用於安全且受治理的對話式AI。學習者將部署、設定並將其與企業應用程式整合，啟用RBAC、SSO及合規驅動的控制，以實現可擴展且安全的AI工作流程。
更多...
高成本效益的LLM架構：Mistral大規模部署（效能／成本工程）
14 小時
掌握具成本效益的Mistral LLM架構，參加此14小時的香港培訓。學習部署、優化及擴展Mistral Medium 3，以實現最大吞吐量與最低成本，運用批次處理、量化及高效服務策略應對企業工作負載。
更多...
利用Mistral连接器和集成实现对话助手的商业化
14 小時
本培训在香港进行，涵盖将Mistral对话助手集成到企业工作流程中。参与者将学习连接SaaS工具、实施检索增强生成，并为面向客户和内部的聊天界面设计有效的用户体验模式。
更多...
使用 Mistral Medium 3 的企业级部署
14 小時
本讲师指导的香港培训，帮助高级 AI 工程师部署并保护 Mistral Medium 3。您将优化推理成本、实现多模态用例，并应用企业合规实践。培训包含 API 和自托管设置的动手实验。
更多...
Mistral 负责任 AI：隐私、数据驻留与企业控制
14 小時
本次 Mistral 负责任 AI 培训在香港举办，专为合规与安全负责人设计。您将掌握隐私保护技术、数据驻留策略，以及 RBAC 和 SSO 等企业控制，确保实现安全、合规的 AI 部署。
更多...
使用Mistral模型的多模态应用（视觉、OCR与文档理解）
14 小時
学习使用Mistral模型构建多模态应用，重点关注OCR、文档理解和视觉-文本搜索。本次动手培训涵盖流程实施、NLP集成和企业级设计，以线上或香港方式授课。
更多...
