聯繫我們

課程簡介

GPU 加速容器化简介

  • 了解深度学习工作流中的 GPU 使用
  • Docker 如何支持基于 GPU 的工作负载
  • 关键性能考量

安装和配置 NVIDIA 容器工具包

  • 设置驱动程序和 CUDA 兼容性
  • 验证容器内的 GPU 访问权限
  • 配置运行时环境

构建 GPU 启用的 Docker 镜像

  • 使用 CUDA 基础镜像
  • 在 GPU 就绪容器中打包 AI 框架
  • 管理训练和推理的依赖项

运行 GPU 加速的 AI 工作负载

  • 使用 GPU 执行训练任务
  • 管理多 GPU 工作负载
  • 监控 GPU 利用率

优化性能和资源分配

  • 限制和隔离 GPU 资源
  • 优化内存、批次大小和设备放置
  • 性能调优和诊断

容器化推理和模型服务

  • 构建推理就绪容器
  • 在 GPU 上服务高负载工作负载
  • 集成模型运行器和 API

使用 Docker 扩展 GPU 工作负载

  • 分布式 GPU 训练策略
  • 扩展推理微服务
  • 协调多容器 AI 系统

GPU 启用容器的安全性和可靠性

  • 确保共享环境中的 GPU 安全访问
  • 加固容器镜像
  • 管理更新、版本和兼容性

总结与后续步骤

最低要求

  • 了解深度学习基础
  • 具备 Python 及常见 AI 框架的使用经验
  • 熟悉基本的容器化概念

受众

  • 深度学习工程师
  • 研发团队
  • AI 模型训练师
 21 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類