Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
課程簡介
AI 部署簡介
- AI 部署生命週期概述
- 將 AI 代理部署到生產環境的挑戰
- 關鍵注意事項:可伸縮性、可靠性和可維護性
容器化和編排
- Docker 和容器化基礎知識簡介
- 使用 Kubernetes 進行 AI 代理編排
- 管理容器化 AI 應用程式的最佳實踐
提供 AI 模型
- 模型服務框架概述(例如,TensorFlow Serving、TorchServe)
- 構建用於 AI 代理推理的 REST API
- 處理批量預測與實時預測
AI Agents 的 CI/CD
- 為 AI 部署設置 CI/CD 管道
- 自動化 AI 模型的測試和驗證
- 滾動更新和管理版本控制
監控和優化
- 實施 AI 代理性能的監控工具
- 分析模型漂移和重新訓練需求
- 優化資源利用率和可擴充性
安全和 Go生存
- 確保遵守數據隱私法規
- 保護 AI 部署管道和 API
- AI 應用程式的審計和日誌記錄
動手實踐 Activities
- 使用 Docker 容器化 AI 代理
- 使用 Kubernetes 部署 AI 代理
- 設置 AI 性能和資源使用情況監控
總結和後續步驟
最低要求
- 精通 Python 程式設計
- 了解機器學習工作流程
- 熟悉容器化工具,如 Docker
- 具有 DevOps 種實踐經驗(推薦)
觀眾
- MLOps 工程師
- DevOps 專業人士
14 時間:
客戶評論 (1)
培訓師即時回答問題。
Adrian
Course - Agentic AI Unleashed: Crafting LLM Applications with AutoGen
機器翻譯