感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程時長 14 時間：
課程簡介
CANN優化功能概覽
- CANN中推理效能的處理方式
- 邊緣與嵌入式AI系統的優化目標
- 理解AI Core使用率與記憶體配置
使用Graph Engine進行分析
- Graph Engine與執行流水線的簡介
- 可視化算子圖與執行階段指標
- 修改計算圖以進行優化
剖析工具與效能指標
- 使用CANN剖析工具（profiler）進行工作負載分析
- 分析內核執行時間與瓶頸
- 記憶體存取剖析與平鋪策略
使用TIK進行自訂算子開發
- TIK與算子編程模型概覽
- 使用TIK DSL實現自訂算子
- 測試並進行算子效能基準測試
使用TVM進行進階算子優化
- TVM與CANN整合簡介
- 計算圖的自動調校策略
- 何時及如何切換使用TVM與TIK
記憶體優化技術
- 管理記憶體佈局與緩衝區放置
- 減少晶片上記憶體消耗的技術
- 異步執行與復用的最佳實踐
實際部署與案例研究
- 案例研究：智慧城市攝影機管線的效能調校
- 案例研究：優化自駕車推理堆疊
- 迭代剖析與持續改進的指導原則
最低要求
- 對深度學習模型架構與訓練流程具備深入理解
- 具有使用CANN、TensorFlow或PyTorch進行模型部署的經驗
- 熟悉Linux CLI、Shell腳本編程及Python編程
受眾對象
- AI效能工程師
- 推理優化專員
- 從事邊緣AI或即時系統開發的開發者
