感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
GPU 加速容器化简介
- 了解深度学习工作流中的 GPU 使用
- Docker 如何支持基于 GPU 的工作负载
- 关键性能考量
安装和配置 NVIDIA 容器工具包
- 设置驱动程序和 CUDA 兼容性
- 验证容器内的 GPU 访问权限
- 配置运行时环境
构建 GPU 启用的 Docker 镜像
- 使用 CUDA 基础镜像
- 在 GPU 就绪容器中打包 AI 框架
- 管理训练和推理的依赖项
运行 GPU 加速的 AI 工作负载
- 使用 GPU 执行训练任务
- 管理多 GPU 工作负载
- 监控 GPU 利用率
优化性能和资源分配
- 限制和隔离 GPU 资源
- 优化内存、批次大小和设备放置
- 性能调优和诊断
容器化推理和模型服务
- 构建推理就绪容器
- 在 GPU 上服务高负载工作负载
- 集成模型运行器和 API
使用 Docker 扩展 GPU 工作负载
- 分布式 GPU 训练策略
- 扩展推理微服务
- 协调多容器 AI 系统
GPU 启用容器的安全性和可靠性
- 确保共享环境中的 GPU 安全访问
- 加固容器镜像
- 管理更新、版本和兼容性
总结与后续步骤
最低要求
- 了解深度学习基础
- 具备 Python 及常见 AI 框架的使用经验
- 熟悉基本的容器化概念
受众
- 深度学习工程师
- 研发团队
- AI 模型训练师
21 小時
客戶評論 (3)
培訓師如何如此有效地傳授知識
Vu Thoai Le - Reply Polska sp. z o. o.
課程 - Certified Kubernetes Administrator (CKA) - exam preparation
機器翻譯
培訓師知識淵博,耐心地向我們分享了很多內容
Bogdan Olaru
課程 - Introduction to Docker
機器翻譯
與Augustin的知識交流
Laurent - L'Office national des vacances annuelles (ONVA)
課程 - Docker and Kubernetes
機器翻譯