聯繫我們

課程簡介

混合AI部署基礎

  • 理解混合、雲及邊緣部署模型。
  • AI工作負載特徵與基礎設施約束。
  • 選擇合適的部署拓撲結構。

使用Docker對AI工作負載進行容器化

  • 構建GPU和CPU推理容器。
  • 管理安全的鏡像與註冊表。
  • 實施可復現的AI環境。

向雲環境部署AI服務

  • 通過Docker在AWS、Azure和GCP上運行推理。
  • 爲模型服務調配雲端計算資源。
  • 保護基於雲端的AI端點。

邊緣與本地部署技術

  • 在IoT設備、網關和微服務器上運行AI。
  • 適用於邊緣環境的輕量級運行時。
  • 管理間歇性連接和本地持久化存儲。

混合網絡與安全連接

  • 建立邊緣與雲端之間的安全隧道。
  • 證書、密鑰與基於令牌的訪問控制。
  • 針對低延遲推理的性能調優。

編排分佈式AI部署

  • 在混合架構中使用K3s、K8s或輕量級編排工具。
  • 服務發現與工作負載調度。
  • 自動化多地點的部署策略。

跨環境的監控與可觀測性

  • 追蹤各地點的推理性能。
  • 爲混合AI系統提供集中式日誌記錄。
  • 故障檢測與自動恢復。

擴展與優化混合AI系統

  • 擴展邊緣集羣與雲端節點。
  • 優化帶寬使用與緩存機制。
  • 平衡雲端與邊緣的計算負載。

總結與後續步驟

最低要求

  • 理解容器化概念。
  • 具備Linux命令行操作經驗。
  • 熟悉AI模型部署工作流程。

受衆羣體

  • 基礎架構設計師。
  • 站點可靠性工程師(SREs)。
  • 邊緣計算與IoT開發者。
 21 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類