感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
基於Docker的AI推理入門
- 理解AI推理工作負載
- 容器化推理的優勢
- 部署場景與限制條件
構建AI推理容器
- 選擇基礎鏡像和框架
- 打包預訓練模型
- 爲容器執行結構化推理代碼
確保容器化AI服務的安全
- 最小化容器攻擊面
- 管理密鑰與敏感文件
- 安全的網絡與API暴露策略
可移植的部署技術
- 優化鏡像以實現可移植性
- 確保可預測的運行環境
- 跨平臺管理依賴項
本地部署與測試
- 在本地通過Docker運行服務
- 調試推理容器
- 測試性能與可靠性
在服務器和雲虛擬機上部署
- 適配遠程環境的容器
- 配置安全的服務器訪問權限
- 在雲VM上部署推理API
使用Docker Compose構建多服務AI系統
- 編排推理過程與支撐組件
- 管理環境變量與配置信息
- 通過Compose擴展微服務規模
監控與維護AI推理服務
- 日誌記錄與可觀測性方法
- 檢測推理管線中的故障
- 在生產環境中更新和版本控制模型
總結與後續步驟
最低要求
- 瞭解基本機器學習概念
- 具備Python或後端開發經驗
- 熟悉基礎容器概念
目標受衆
- 開發人員
- 後端工程師
- 部署AI服務的團隊
14 小時
客戶評論 (3)
培訓師如何如此有效地傳授知識
Vu Thoai Le - Reply Polska sp. z o. o.
課程 - Certified Kubernetes Administrator (CKA) - exam preparation
機器翻譯
培訓師知識淵博,耐心地向我們分享了很多內容
Bogdan Olaru
課程 - Introduction to Docker
機器翻譯
與Augustin的知識交流
Laurent - L'Office national des vacances annuelles (ONVA)
課程 - Docker and Kubernetes
機器翻譯