使用CANN TIK與TVM建構自訂AI運算子培訓

自訂運算子開發簡介

• 為何要建構自訂運算子？使用案例與限制
• CANN執行環境結構與運算子整合點
• 華為AI生態系統中TBE、TIK與TVM的概觀

使用TIK進行底層運算子程式設計

• 理解TIK程式設計模型與支援的API
• TIK中的記憶體管理與平鋪策略
• 建立、編譯並向CANN註冊自訂運算子

測試與驗證自訂運算子

• 在圖中進行運算子的單元測試與整合測試
• 除錯核心層級的效能問題
• 視覺化運算子執行與緩衝區行為

基於TVM的排程與最佳化

• TVM作為張量運算子編譯器的概觀
• 在TVM中為自訂運算子編寫排程
• TVM調校、基準測試與Ascend程式碼生成

與框架及模型的整合

• 為MindSpore與ONNX註冊自訂運算子
• 驗證模型完整性與回退行為
• 支援混合精度的多運算子圖

案例研究與專業最佳化

• 案例研究：針對小型輸入形狀的高效率卷積
• 案例研究：記憶體感知的注意力運算子最佳化
• 跨裝置部署自訂運算子的最佳實務

總結與後續步驟