大語言模型參數高效微調(PEFT)技術培訓
參數高效微調(PEFT)是一套技術方法,通過僅修改少量參數子集,即可實現大語言模型的高效適配。
本課程由講師帶領,提供線上或線下即時培訓。旨在幫助中階數據科學家與AI工程師,利用LoRA、適配器微調及前綴微調等方法,以更經濟、高效的方式微調大語言模型。
完成培訓後,學員將能夠:
- 理解參數高效微調方法背後的理論基礎。
- 使用Hugging Face PEFT實現LoRA、適配器微調及前綴微調。
- 比較PEFT方法與全參數微調在性能與成本上的權衡。
- 部署並擴展微調後的大語言模型,降低計算與存儲需求。
課程形式
- 互動式講授與討論。
- 豐富的練習與實踐。
- 在即時實驗環境中進行動手實作。
課程自訂選項
- 若需針對此課程申請客製化培訓,請聯絡我們進行安排。
課程簡介
參數高效微調(PEFT)導論
- 全參數微調的動機與局限性
- PEFT概覽:目標與優勢
- 行業應用場景與用例
LoRA(低秩適應)
- LoRA的概念與直覺理解
- 使用Hugging Face與PyTorch實現LoRA
- 動手實作:使用LoRA微調模型
適配器微調
- 適配器模組的工作原理
- 與基於Transformer模型的整合
- 動手實作:對Transformer模型應用適配器微調
前綴微調
- 使用軟提示進行微調
- 與LoRA及適配器相比的優勢與局限
- 動手實作:在LLM任務中進行前綴微調
評估與比較PEFT方法
- 評估性能與效率的指標
- 訓練速度、內存使用與準確性之間的權衡
- 基準測試實驗與結果解讀
部署微調後的模型
- 保存與加載微調後的模型
- 基於PEFT模型的部署考量
- 整合至應用程式與流程管線
最佳實務與擴展
- 結合PEFT與量化、知識蒸餾
- 在低資源與多語言環境中的應用
- 未來發展方向與活躍的研究領域
最低要求
- 具備機器學習基礎知識
- 有操作大語言模型(LLMs)的經驗
- 熟悉Python與PyTorch
受眾
- 數據科學家
- AI工程師
公開培訓課程需要5名以上參與者。
大語言模型參數高效微調(PEFT)技術培訓 - 訂單
大語言模型參數高效微調(PEFT)技術培訓 - 詢問
大語言模型參數高效微調(PEFT)技術 - 咨詢詢問
即將到來的課程
相關課程
進階LangGraph:最佳化、除錯與監控複雜圖形
35 小時使用 Devstral 建構編碼代理:從代理設計到工具鏈
14 小時在 香港 的實時培訓中掌握 Devstral。課程涵蓋架構、代理工作流設計及工具整合。此課程適合高級工程師,透過實操實驗室建構編碼代理,以提升現代開發環境中的生產力與安全性。
開源模型運作:使用Devstral與Mistral模型進行自我託管、微調與治理
14 小時此授課者主導的香港培訓針對希望掌握自我託管和微調Devstral與Mistral模型的ML工程師。參與者學習實用的治理、監控和合規技術,以在生產環境中自信地部署開源AI。
LangGraph在金融领域的应用
35 小時LangGraph基础:基于图的LLM提示与链式调用
14 小時LangGraph在医疗保健中的应用:受监管环境下的工作流编排
35 小時適用於法律應用的 LangGraph
35 小時使用LangGraph与LLM智能体构建动态工作流
14 小時LangGraph 行銷自動化
14 小時Le Chat Enterprise:私密ChatOps、整合與管理控制
14 小時本課程在 香港 提供直播訓練。內容涵蓋Le Chat Enterprise。這是一款針對安全、受治理會話式AI的私密ChatOps解決方案。學員將學習部署、配置,並將其與企業應用整合。啟用RBAC、SSO及合規驅動控制,以建立可擴展且安全的AI工作流。
成本效益高的LLM架構:Mistral規模化(效能/成本工程)
14 小時通過在香港進行的14小時現場培訓,掌握成本效益高的Mistral LLM架構。學習部署、優化並擴展Mistral Medium 3,以實現最大吞吐量並最小化成本,使用批量處理、量化和高效服務策略應對企業級工作負載。
利用Mistral連接器與整合功能實現對話式助理的產品化
14 小時本課程在 香港 地區提供,內容涵蓋將Mistral對話式助理整合至企業工作流。參與者將學習如何連接SaaS工具、實施檢索增強生成(RAG),並為面向客戶及內部的聊天介面設計高效的用戶體驗模式。
Mistral Medium 3 的企業級部署
14 小時此香港導師帶領的培訓協助進階 AI 工程師部署並保護 Mistral Medium 3。內容涵蓋推理成本優化、多模態用例實作及企業合規實務。包含 API 與自託管設定的實作實驗。
Mistral負責任AI:隱私、資料居留與企業控制
14 小時在香港進行的這場Mistral負責任AI培訓,專為合規與安全主管設計。您將掌握隱私保護技術、資料居留策略,以及RBAC與SSO等企業控制機制,確保AI部署的安全與合規。
使用Mistral模型构建多模态应用(视觉、OCR与文件理解)
14 小時学习使用Mistral模型构建多模态应用。聚焦OCR、文件理解及视觉文本搜索。本课程为动手实践培训。涵盖管道实施、NLP集成及企业级设计。提供线上或香港授课。