聯繫我們

課程簡介

基於Docker的AI推理入門

  • 理解AI推理工作負載
  • 容器化推理的優勢
  • 部署場景與限制條件

構建AI推理容器

  • 選擇基礎鏡像和框架
  • 打包預訓練模型
  • 爲容器執行結構化推理代碼

確保容器化AI服務的安全

  • 最小化容器攻擊面
  • 管理密鑰與敏感文件
  • 安全的網絡與API暴露策略

可移植的部署技術

  • 優化鏡像以實現可移植性
  • 確保可預測的運行環境
  • 跨平臺管理依賴項

本地部署與測試

  • 在本地通過Docker運行服務
  • 調試推理容器
  • 測試性能與可靠性

在服務器和雲虛擬機上部署

  • 適配遠程環境的容器
  • 配置安全的服務器訪問權限
  • 在雲VM上部署推理API

使用Docker Compose構建多服務AI系統

  • 編排推理過程與支撐組件
  • 管理環境變量與配置信息
  • 通過Compose擴展微服務規模

監控與維護AI推理服務

  • 日誌記錄與可觀測性方法
  • 檢測推理管線中的故障
  • 在生產環境中更新和版本控制模型

總結與後續步驟

最低要求

  • 瞭解基本機器學習概念
  • 具備Python或後端開發經驗
  • 熟悉基礎容器概念

目標受衆

  • 開發人員
  • 後端工程師
  • 部署AI服務的團隊
 14 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類