感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
EXO基礎設施即代碼
- EXO部署模式概述:單節點、多節點和RDMA集羣
- 使用配置管理自動化依賴安裝(Xcode、uv、Node.js、Rust)
- 使用Nix flakes構建可復現的EXO構建和開發環境
- 編寫Ansible playbook或Shell腳本實現無人值守的集羣配置
可復現的構建與CI集成
- 在CI管道中固定依賴項並構建儀表盤
- 在GitHub Actions或GitLab CI運行器中執行EXO冒煙測試
- 爲macOS和Linux虛擬機創建黃金鏡像和基於快照的回滾工作流
- 將自定義模型卡與應用代碼一起版本化
集羣發現與網絡自動化
- 配置mDNS和靜態DNS以實現可靠的libp2p節點發現
- 在macOS上自動化網絡配置文件創建和Thunderbolt橋接管理
- 使用自定義命名空間(EXO_LIBP2P_NAMESPACE)分離開發、預發佈和生產集羣
- 爲多租戶環境配置防火牆規則和網絡分段
存儲與模型生命週期管理
- 設計EXO_MODELS_DIRS和EXO_MODELS_READ_ONLY_DIRS策略
- 將NFS或SAN共享掛載爲只讀模型倉庫以快速配置
- 對過時緩存進行垃圾回收並制定版本化權重保留策略
- 在滾動更新前自動化模型預下載和健康檢查
監控與告警
- 將EXO日誌發送至集中日誌系統(ELK、Loki或Splunk)
- 根據EXO_TRACING_ENABLED輸出構建Grafana儀表盤
- 對集羣成員變更、OOM事件和推理延遲峯值進行告警
- 將macmon硬件遙測數據與模型性能迴歸關聯
更新、回滾與災難恢復
- 在全量部署前在Canary節點上分階段進行EXO二進制更新
- 模型級回滾:在量化版本之間切換而無需重新下載
- 備份和恢復集羣狀態、自定義命名空間及緩存權重
- 爲完全集羣重建場景編寫恢復手冊
安全加固與合規
- 在反向代理層(nginx、traefik)應用TLS以保護儀表盤和API
- 爲EXO端點實施API速率限制和IP白名單
- 使用VLAN和零信任網絡策略隔離集羣
- 審計訪問權限並維護已部署模型和版本的清單
最低要求
- 具備DevOps實踐經驗(CI/CD、IaC、容器編排)
- 熟悉macOS或Linux系統管理與包管理
- 瞭解網絡、DNS和存儲概念
目標受衆
- DevOps工程師
- 基礎設施架構師
- 負責本地AI工作負載的SRE
21 小時
客戶評論 (2)
Craig在培訓中非常投入,始終確保我們保持專注,將示例調整到我們的日常活動中,並在被提問時總是提供答案,即使信息未在演示中提及。
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
課程 - DevOps Foundation®
機器翻譯
培訓師的高度承諾和專業知識
Jacek - Softsystem
課程 - DevOps Engineering Foundation (DOEF)®
機器翻譯