感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 21 時間:
課程簡介
混合式 AI 部署基础
- 理解混合、云端和边缘部署模型
- AI 工作负载特征与基础设施限制
- 选择适合的部署拓扑
使用 Docker 容器化 AI 工作负载
- 构建 GPU 和 CPU 推理容器
- 管理安全的镜像与注册表
- 实现可复现的 AI 环境
将 AI 服务部署到云端环境
- 通过 Docker 在 AWS、Azure 和 GCP 上运行推理
- 为模型服务配置云端计算资源
- 保护基于云的 AI 端点
边缘与本地部署技术
- 在物联网设备、网关和微服务器上运行 AI
- 适用于边缘环境的轻量级运行时
- 管理间歇性连接与本地持久化
混合网络与安全连接
- 边缘与云之间的安全隧道
- 证书、密钥与基于令牌的访问
- 针对低延迟推理的性能调优
编排分布式 AI 部署
- 使用 K3s、K8s 或轻量级编排实现混合部署
- 服务发现与工作负载调度
- 自动化多地点发布策略
跨环境监控与可观测性
- 跟踪各位置的推理性能
- 混合 AI 系统的集中式日志记录
- 故障检测与自动恢复
扩展与优化混合 AI 系统
- 扩展边缘集群与云端节点
- 优化带宽使用与缓存
- 平衡云端与边缘之间的计算负载
总结与后续步骤
最低要求
- 了解容器化概念
- 具备 Linux 命令行操作经验
- 熟悉 AI 模型部署工作流程
目标受众
- 基础设施架构师
- 站点可靠性工程师(SRE)
- 边缘与物联网开发者
客戶評論 (2)
如前所述,对于像我这样没有经验的人来说,这是了解这些程序/工具等功能与用途的入门途径。
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
課程 - Docker and Kubernetes
機器翻譯
多层次、结构化的课程体系。
Bert Paelinckx - Cube SoftwareSolutions
課程 - Introduction to Docker
機器翻譯