Cambricon MLU Development with BANGPy and Neuware 培訓
Cambricon MLUs (Machine Learning 单元) 是专为边缘和数据中心场景中的推理和训练优化的AI芯片。
本次由讲师指导的培训(线上或线下)面向中级开发者,旨在帮助他们使用BANGPy框架和Neuware SDK在Cambricon MLU硬件上构建和部署AI模型。
通过本次培训,参与者将能够:
- 设置和配置BANGPy和Neuware开发环境。
- 开发和优化基于Python和C++的模型,适用于Cambricon MLUs。
- 将模型部署到运行Neuware运行时的边缘和数据中心设备。
- 将ML工作流与MLU特定的加速功能集成。
课程形式
- 互动式讲座和讨论。
- 动手实践,使用BANGPy和Neuware进行开发和部署。
- 指导练习,专注于优化、集成和测试。
课程定制选项
- 如需根据您的Cambricon设备型号或使用场景定制本次培训,请联系我们安排。
課程簡介
Cambricon與MLU架構介紹
- Cambricon AI晶片產品概覽
- MLU架構與指令流水線
- 支援的模型類型與應用場景
安裝開發工具鏈
- 安裝BANGPy與Neuware SDK
- Python與C++的環境設置
- 模型兼容性與預處理
使用BANGPy進行模型開發
- 張量結構與形狀管理
- 計算圖構建
- BANGPy中的自定義操作支援
使用Neuware Runtime進行部署
- 模型轉換與加載
- 執行與推理控制
- 邊緣與數據中心部署實踐
性能優化
- 內存映射與層調優
- 執行追蹤與性能分析
- 常見瓶頸與解決方案
將MLU整合至應用中
- 使用Neuware APIs進行應用整合
- 串流與多模型支援
- 混合CPU-MLU推理場景
端到端項目與Use Case
- 實驗室:部署視覺或NLP模型
- 使用BANGPy整合進行邊緣推理
- 測試準確性與吞吐量
總結與下一步
最低要求
- 了解機器學習模型結構
- 具備Python和/或C++的經驗
- 熟悉模型部署與加速概念
目標受眾
- 嵌入式AI開發者
- 部署至邊緣或數據中心的ML工程師
- 使用中國AI基礎設施的開發者
公開培訓課程需要5名以上參與者。
Cambricon MLU Development with BANGPy and Neuware 培訓 - 訂單
Cambricon MLU Development with BANGPy and Neuware 培訓 - 詢問
Cambricon MLU Development with BANGPy and Neuware - 咨詢詢問
即將到來的課程
相關課程
5G和Edge AI:實現超低延遲應用
21 小時本次由講師指導的線下或線上培訓,面向中級電信專業人員、AI工程師和物聯網專家,旨在探討5G網絡如何加速邊緣AI應用。
培訓結束後,學員將能夠:
- 瞭解5G技術的基礎知識及其對邊緣AI的影響。
- 在5G環境中部署針對低延遲應用優化的AI模型。
- 利用邊緣AI和5G連接實現即時決策系統。
- 優化AI工作負載,提升邊緣設備的性能。
6G與智能邊緣
21 小時6G與智能邊緣是一門前瞻性課程,探討6G無線技術與邊緣計算、物聯網生態系統及AI驅動數據處理的結合,以支持智能、低延遲和自適應基礎設施。
本課程爲講師指導的培訓(線上或線下),面向中級IT架構師,旨在幫助他們理解並設計下一代分佈式架構,充分利用6G連接與智能邊緣系統的協同效應。
完成本課程後,學員將能夠:
- 理解6G將如何改變邊緣計算和物聯網架構。
- 設計超低延遲、高帶寬和自主操作的分佈式系統。
- 在邊緣集成AI和數據分析,實現智能決策。
- 規劃可擴展、安全且具備彈性的6G就緒邊緣基礎設施。
- 評估6G與邊緣融合帶來的業務和運營模式。
課程形式
- 互動式講座與討論。
- 案例研究與實際架構設計練習。
- 使用可選邊緣或容器工具進行動手模擬。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
高級邊緣AI技術
14 小時本次講師指導的培訓在香港(線上或線下)面向希望掌握邊緣AI最新進展、優化AI模型以進行邊緣部署,並探索各行業專門應用的高級AI從業者、研究人員和開發者。
培訓結束後,學員將能夠:
- 探索邊緣AI模型開發和優化的高級技術。
- 實施在邊緣設備上部署AI模型的前沿策略。
- 利用專門工具和框架進行高級邊緣AI應用。
- 優化邊緣AI解決方案的性能和效率。
- 探索邊緣AI的創新用例和新興趨勢。
- 解決邊緣AI部署中的高級倫理和安全問題。
構建邊緣AI解決方案
14 小時本次由講師指導的線下或線上培訓,面向中級開發者、數據科學家和技術愛好者,旨在幫助他們掌握在各種應用中在邊緣設備上部署AI模型的實用技能。
培訓結束後,參與者將能夠:
- 理解Edge AI的原理及其優勢。
- 設置和配置邊緣計算環境。
- 開發、訓練和優化用於邊緣部署的AI模型。
- 在邊緣設備上實現實用的AI解決方案。
- 評估並改進邊緣部署模型的性能。
- 解決Edge AI應用中的倫理和安全問題。
構建安全且具有彈性的Edge AI系統
21 小時本次由講師指導的線下或線上培訓,面向高級網絡安全專業人士、AI工程師和物聯網開發者,旨在幫助他們爲Edge AI系統實施強大的安全措施和彈性策略。
培訓結束後,參與者將能夠:
- 瞭解Edge AI部署中的安全風險和漏洞。
- 實施加密和認證技術以保護數據。
- 設計能夠抵禦網絡威脅的彈性Edge AI架構。
- 在邊緣環境中應用安全的AI模型部署策略。
CANN 用於 Edge AI 部署
14 小時華爲的Ascend CANN工具包能夠在邊緣設備(如Ascend 310)上實現強大的AI推理。CANN提供了在計算和內存受限的環境中編譯、優化和部署模型所需的必要工具。
本次由講師指導的培訓(線上或線下)面向希望使用CANN工具鏈在Ascend邊緣設備上部署和優化模型的中級AI開發人員和集成人員。
培訓結束後,學員將能夠:
- 使用CANN工具爲Ascend 310準備和轉換AI模型。
- 使用MindSpore Lite和AscendCL構建輕量級推理管道。
- 在計算和內存受限的環境中優化模型性能。
- 在實際邊緣用例中部署和監控AI應用。
課程形式
- 互動講座與演示。
- 針對邊緣特定模型和場景的實踐操作。
- 在虛擬或物理邊緣硬件上進行即時部署示例。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們進行安排。
Migrating CUDA Applications to Chinese GPU Architectures
21 小時中國的GPU架構,如Huawei Ascend、Biren和Cambricon MLU,提供了專為本地AI和HPC市場量身定制的CUDA替代方案。
這項由講師指導的培訓(線上或線下)旨在為高級GPU程式設計師和基礎設施專家提供遷移和優化現有CUDA應用程序,以便在中國硬件平台上部署的能力。
培訓結束後,參與者將能夠:
- 評估現有CUDA工作負載與中國芯片替代方案的兼容性。
- 將CUDA代碼庫移植到華為CANN、Biren SDK和Cambricon BANGPy環境中。
- 比較性能並識別跨平台的優化點。
- 解決跨架構支持和部署中的實際挑戰。
課程形式
- 互動式講座和討論。
- 實踐代碼翻譯和性能比較實驗。
- 專注於多GPU適應策略的指導練習。
課程定制選項
- 如需根據您的平台或CUDA項目定制培訓,請聯繫我們安排。
邊緣AI在農業中的應用:智能農業與精準監測
21 小時本課程爲講師主導的培訓,在香港(線上或線下)進行,面向初級到中級水平的農業科技專業人士、物聯網專家和AI工程師,旨在幫助他們開發和部署邊緣AI解決方案,用於智能農業。
培訓結束後,學員將能夠:
- 瞭解邊緣AI在精準農業中的作用。
- 實施AI驅動的作物和牲畜監測系統。
- 開發自動化灌溉和環境感知解決方案。
- 利用即時邊緣AI分析優化農業效率。
邊緣人工智能在自主系統中的應用
14 小時本次由講師指導的線下或線上培訓,面向中級機器人工程師、自動駕駛汽車開發者和AI研究人員,旨在幫助他們利用Edge AI技術開發創新的自主系統解決方案。
培訓結束後,參與者將能夠:
- 理解Edge AI在自主系統中的作用和優勢。
- 開發和部署用於邊緣設備即時處理的AI模型。
- 在自動駕駛汽車、無人機和機器人中實施Edge AI解決方案。
- 使用Edge AI設計和優化控制系統。
- 解決自主AI應用中的倫理和監管問題。
邊緣AI:從概念到實現
14 小時本次由講師指導的培訓在香港(線上或線下)面向中級開發人員和IT專業人員,旨在幫助他們全面瞭解邊緣AI,從概念到實際實現,包括設置和部署。
培訓結束後,參與者將能夠:
- 理解邊緣AI的基本概念。
- 設置和配置邊緣AI環境。
- 開發、訓練和優化邊緣AI模型。
- 部署和管理邊緣AI應用。
- 將邊緣AI與現有系統和工作流集成。
- 解決邊緣AI實施中的倫理問題和最佳實踐。
邊緣AI用於計算機視覺:即時圖像處理
21 小時本課程爲講師指導的培訓,在香港(線上或線下)進行,面向希望實現和優化用於邊緣設備即時處理的計算機視覺模型的中高級計算機視覺工程師、AI開發者和物聯網專業人士。
通過本課程,參與者將能夠:
- 瞭解邊緣AI的基礎知識及其在計算機視覺中的應用。
- 在邊緣設備上部署優化的深度學習模型,用於即時圖像和視頻分析。
- 使用TensorFlow Lite、OpenVINO和NVIDIA Jetson SDK等框架進行模型部署。
- 優化AI模型,以提高性能、能效和低延遲推理。
金融服務的邊緣AI
14 小時本課程由講師主導,提供香港(線上或線下)培訓,面向希望在金融服務中實施邊緣AI解決方案的中級金融專業人士、金融科技開發者和AI專家。
培訓結束後,參與者將能夠:
- 理解邊緣AI在金融服務中的作用。
- 使用邊緣AI實施欺詐檢測系統。
- 通過AI驅動解決方案提升客戶服務。
- 應用邊緣AI進行風險管理和決策。
- 在金融環境中部署和管理邊緣AI解決方案。
醫療領域的邊緣人工智能
14 小時本課程由講師主導,提供香港(線上或線下)培訓,面向中級醫療專業人員、生物醫學工程師和人工智能開發者,旨在利用邊緣人工智能開發創新醫療解決方案。
培訓結束後,學員將能夠:
- 瞭解邊緣人工智能在醫療中的作用和優勢。
- 爲醫療應用開發和部署邊緣設備上的人工智能模型。
- 在可穿戴設備和診斷工具中實施邊緣人工智能解決方案。
- 使用邊緣人工智能設計和部署患者監護系統。
- 處理醫療人工智能應用中的倫理和法規問題。
邊緣AI在工業自動化中的應用
14 小時本課程爲講師指導的培訓,在香港(線上或線下)進行,面向希望將邊緣AI解決方案應用於工業自動化的中級工業工程師、製造專業人員和AI開發者。
通過本培訓,學員將能夠:
- 瞭解邊緣AI在工業自動化中的作用。
- 使用邊緣AI實施預測性維護解決方案。
- 在製造過程中應用AI技術進行質量控制。
- 使用邊緣AI優化工業流程。
- 在工業環境中部署和管理邊緣AI解決方案。
Performance Optimization on Ascend, Biren, and Cambricon
21 小時Ascend、Biren 和 Cambricon 是中國領先的 AI 硬體平台,各自提供獨特的加速和性能分析工具,用於生產規模的 AI 工作負載。
這項由講師指導的培訓(線上或線下)針對高級 AI 基礎設施和性能工程師,旨在優化跨多個中國 AI 晶片平台的模型推理和訓練工作流程。
在培訓結束時,參與者將能夠:
- 在 Ascend、Biren 和 Cambricon 平台上進行模型基準測試。
- 識別系統瓶頸和記憶體/計算效率低下的問題。
- 應用圖層級、核心層級和操作層級的優化。
- 調整部署管道以提高吞吐量和減少延遲。
課程形式
- 互動式講座和討論。
- 在每個平台上實際使用性能分析和優化工具。
- 專注於實際調整情境的指導練習。
課程定制選項
- 如需根據您的性能環境或模型類型定制此課程,請聯繫我們安排。