大語言模型參數高效微調(PEFT)技術培訓
參數高效微調(PEFT)是一套技術方法,通過僅修改少量參數子集,即可實現大語言模型的高效適配。
本課程由講師帶領,提供線上或線下即時培訓。旨在幫助中階數據科學家與AI工程師,利用LoRA、適配器微調及前綴微調等方法,以更經濟、高效的方式微調大語言模型。
完成培訓後,學員將能夠:
- 理解參數高效微調方法背後的理論基礎。
- 使用Hugging Face PEFT實現LoRA、適配器微調及前綴微調。
- 比較PEFT方法與全參數微調在性能與成本上的權衡。
- 部署並擴展微調後的大語言模型,降低計算與存儲需求。
課程形式
- 互動式講授與討論。
- 豐富的練習與實踐。
- 在即時實驗環境中進行動手實作。
課程自訂選項
- 若需針對此課程申請客製化培訓,請聯絡我們進行安排。
感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
參數高效微調(PEFT)導論
- 全參數微調的動機與局限性
- PEFT概覽:目標與優勢
- 行業應用場景與用例
LoRA(低秩適應)
- LoRA的概念與直覺理解
- 使用Hugging Face與PyTorch實現LoRA
- 動手實作:使用LoRA微調模型
適配器微調
- 適配器模組的工作原理
- 與基於Transformer模型的整合
- 動手實作:對Transformer模型應用適配器微調
前綴微調
- 使用軟提示進行微調
- 與LoRA及適配器相比的優勢與局限
- 動手實作:在LLM任務中進行前綴微調
評估與比較PEFT方法
- 評估性能與效率的指標
- 訓練速度、內存使用與準確性之間的權衡
- 基準測試實驗與結果解讀
部署微調後的模型
- 保存與加載微調後的模型
- 基於PEFT模型的部署考量
- 整合至應用程式與流程管線
最佳實務與擴展
- 結合PEFT與量化、知識蒸餾
- 在低資源與多語言環境中的應用
- 未來發展方向與活躍的研究領域
最低要求
- 具備機器學習基礎知識
- 有操作大語言模型(LLMs)的經驗
- 熟悉Python與PyTorch
受眾
- 數據科學家
- AI工程師
14 小時
公開培訓課程需要5名以上參與者。
大語言模型參數高效微調(PEFT)技術培訓 - 訂單
大語言模型參數高效微調(PEFT)技術培訓 - 詢問
大語言模型參數高效微調(PEFT)技術 - 咨詢詢問
即將到來的課程
相關課程
進階LangGraph:最佳化、除錯與監控複雜圖形
35 小時
這場在香港的線下培訓,針對進階AI平台工程師、AI的DevOps及ML架構師,旨在最佳化、除錯、監控並營運生產級的LangGraph系統,用於具狀態、多代理的LLM應用程式,以可組合的圖形呈現。
更多...
使用Devstral構建編碼代理:從代理設計到工具整合
14 小時
在香港舉辦的此現場培訓中掌握Devstral。課程涵蓋架構、代理工作流程設計和工具整合。適合高階工程師,課程使用實作實驗室來構建編碼代理,以提升現代開發環境中的生產力和安全性。
更多...
开源模型运维:使用 Devstral 与 Mistral 模型进行自托管、微调与治理
14 小時
本次由讲师指导的培训在香港中开展,面向希望掌握 Devstral 和 Mistral 模型自托管与微调技能的 ML 工程师。参与者将学习实用的治理、监控与合规技术,从而自信地在生产环境中部署开源 AI。
更多...
LangGraph在金融领域的应用
35 小時
本次由讲师指导的香港培训,帮助专业人士设计基于LangGraph的金融解决方案。参与者将学习实施符合监管要求的工作流、集成数据标准,并部署具备强大治理、可观测性与合规控制能力的系统。
更多...
LangGraph基础:基于图的LLM提示与链式调用
14 小時
本讲师引导的LangGraph基础课程在香港举办,帮助开发者构建基于图的LLM应用。学习节点、边、状态管理和分支逻辑等核心概念。集成工具、检索和外部API,然后通过动手实验测试并部署可靠的工作流。
更多...
LangGraph在医疗保健中的应用:受监管环境下的工作流编排
35 小時
通过本次在香港举办的培训,探索LangGraph在医疗保健领域的应用,适合中级至高级专业人士。学习设计有状态、合规的工作流,集成FHIR和SNOMED CT等标准,并应对受监管环境中的伦理与运营挑战。
更多...
適用於法律應用的 LangGraph
35 小時
透過在 香港 舉辦的 35 小時講師主導培訓,掌握適用於法律應用的 LangGraph。本課程適合中高階專業人士,內容涵蓋工作流程設計、合規控制與人機協作審批,協助您自信地建構可稽核且適用於正式環境的 LLM 解決方案。
更多...
使用LangGraph与LLM智能体构建动态工作流
14 小時
本次线上或线下课程在香港中指导中级工程师使用LangGraph构建动态LLM工作流。学习设计有状态图、实现分支逻辑,并集成检索、API和记忆,以构建稳健、具有上下文感知能力的应用。
更多...
LangGraph 行銷自動化
14 小時
這個由講師指導的培訓以香港介紹 LangGraph 行銷自動化。參與者將學習設計條件式內容工作流程、整合 LLM 以實現個人化電子郵件行銷活動,以及管理多步驟管道中的狀態,獲得現代行銷的實用技能。
更多...
Le Chat Enterprise:私有ChatOps、整合與管理控制
14 小時
此香港培訓涵蓋Le Chat Enterprise,這是一個私有ChatOps解決方案,用於安全且受治理的對話式AI。學習者將部署、設定並將其與企業應用程式整合,啟用RBAC、SSO及合規驅動的控制,以實現可擴展且安全的AI工作流程。
更多...
高成本效益的LLM架構:Mistral大規模部署(效能/成本工程)
14 小時
掌握具成本效益的Mistral LLM架構,參加此14小時的香港培訓。學習部署、優化及擴展Mistral Medium 3,以實現最大吞吐量與最低成本,運用批次處理、量化及高效服務策略應對企業工作負載。
更多...
利用Mistral连接器和集成实现对话助手的商业化
14 小時
本培训在香港进行,涵盖将Mistral对话助手集成到企业工作流程中。参与者将学习连接SaaS工具、实施检索增强生成,并为面向客户和内部的聊天界面设计有效的用户体验模式。
更多...
使用 Mistral Medium 3 的企业级部署
14 小時
本讲师指导的香港培训,帮助高级 AI 工程师部署并保护 Mistral Medium 3。您将优化推理成本、实现多模态用例,并应用企业合规实践。培训包含 API 和自托管设置的动手实验。
更多...
Mistral 负责任 AI:隐私、数据驻留与企业控制
14 小時
本次 Mistral 负责任 AI 培训在香港举办,专为合规与安全负责人设计。您将掌握隐私保护技术、数据驻留策略,以及 RBAC 和 SSO 等企业控制,确保实现安全、合规的 AI 部署。
更多...
使用Mistral模型的多模态应用(视觉、OCR与文档理解)
14 小時
学习使用Mistral模型构建多模态应用,重点关注OCR、文档理解和视觉-文本搜索。本次动手培训涵盖流程实施、NLP集成和企业级设计,以线上或香港方式授课。
更多...