Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
課程簡介
AI部署簡介
- AI部署生命週期概述
- 將AI代理部署到生產環境中的挑戰
- 關鍵考慮因素:可擴展性、可靠性和可維護性
容器化與編排
- Docker與容器化基礎介紹
- 使用Kubernetes進行AI代理編排
- 管理容器化AI應用的最佳實踐
AI模型服務
- 模型服務框架概述(如TensorFlow Serving、TorchServe)
- 爲AI代理推理構建REST API
- 處理批處理與即時預測
AI代理的CI/CD
- 爲AI部署設置CI/CD流水線
- 自動化AI模型的測試與驗證
- 滾動更新與版本控制管理
監控與優化
- 實施AI代理性能監控工具
- 分析模型漂移與再訓練需求
- 優化資源利用率與可擴展性
安全與治理
- 確保符合數據隱私法規
- 保護AI部署流水線與API
- AI應用的審計與日誌記錄
實踐環節
- 使用Docker容器化AI代理
- 使用Kubernetes部署AI代理
- 設置AI性能與資源使用監控
總結與下一步
最低要求
- 精通Python編程
- 理解機器學習工作流程
- 熟悉容器化工具如Docker
- 具備DevOps實踐經驗(推薦)
受衆
- MLOps工程師
- DevOps專業人員
14 時間:
客戶評論 (1)
培訓師即時回答問題。
Adrian
Course - Agentic AI Unleashed: Crafting LLM Applications with AutoGen
機器翻譯