使用QLoRA微調大語言模型培訓
QLoRA是一種先進的微調大語言模型（LLMs）技術，通過量化方法提供了一種更高效的方式來微調這些模型，而不會產生巨大的計算成本。本培訓將涵蓋使用QLoRA微調LLMs的理論基礎和實踐實現。
本次由講師主導的培訓（線上或線下）面向中高級機器學習工程師、AI開發人員和數據科學家，旨在幫助他們學習如何使用QLoRA高效地微調大模型，以完成特定任務和定製化需求。
通過本培訓，參與者將能夠：
- 理解QLoRA和LLMs量化技術的理論基礎。
- 在微調大語言模型時實現QLoRA，以應用於特定領域。
- 通過量化優化微調性能，利用有限的計算資源。
- 高效地部署和評估微調模型在實際應用中的表現。
課程形式
- 互動講座和討論。
- 大量練習和實踐。
- 在實驗環境中進行動手操作。
課程定製選項
- 如需爲本課程定製培訓，請聯繫我們進行安排。
感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
QLoRA與量化技術介紹
- 量化概述及其在模型優化中的作用
- QLoRA框架介紹及其優勢
- QLoRA與傳統微調方法的主要區別
大語言模型（LLMs）基礎
- LLMs介紹及其架構
- 大規模微調大模型的挑戰
- 量化如何幫助克服LLM微調中的計算限制
使用QLoRA微調LLMs的實現
- 設置QLoRA框架和環境
- 準備用於QLoRA微調的數據集
- 使用Python和PyTorch/TensorFlow逐步實現QLoRA微調LLMs
使用QLoRA優化微調性能
- 如何通過量化平衡模型準確性和性能
- 減少微調期間計算成本和內存佔用的技術
- 在有限硬件資源下進行微調的策略
評估微調模型
- 如何評估微調模型的有效性
- 語言模型的常見評估指標
- 微調後優化模型性能及問題排查
部署和擴展微調模型
- 將量化LLMs部署到生產環境的最佳實踐
- 擴展部署以處理即時請求
- 用於模型部署和監控的工具與框架
實際應用案例與案例分析
- 案例研究：爲客戶支持和NLP任務微調LLMs
- 在醫療、金融、電子商務等行業微調LLMs的示例
- 從QLoRA模型實際部署中吸取的經驗教訓
總結與下一步
最低要求
- 對機器學習基礎和神經網絡的理解
- 具備模型微調和遷移學習的經驗
- 熟悉大語言模型（LLMs）和深度學習框架（如PyTorch、TensorFlow）
受衆
- 機器學習工程師
- AI開發人員
- 數據科學家
14 小時
公開培訓課程需要5名以上參與者。
使用QLoRA微調大語言模型培訓 - 訂單
使用QLoRA微調大語言模型培訓 - 詢問
使用QLoRA微調大語言模型 - 咨詢詢問
即將到來的課程
相關課程
進階LangGraph：最佳化、除錯與監控複雜圖形
35 小時
這場在香港的線下培訓，針對進階AI平台工程師、AI的DevOps及ML架構師，旨在最佳化、除錯、監控並營運生產級的LangGraph系統，用於具狀態、多代理的LLM應用程式，以可組合的圖形呈現。
更多...
使用Devstral構建編碼代理：從代理設計到工具整合
14 小時
在香港舉辦的此現場培訓中掌握Devstral。課程涵蓋架構、代理工作流程設計和工具整合。適合高階工程師，課程使用實作實驗室來構建編碼代理，以提升現代開發環境中的生產力和安全性。
更多...
开源模型运维：使用 Devstral 与 Mistral 模型进行自托管、微调与治理
14 小時
本次由讲师指导的培训在香港中开展，面向希望掌握 Devstral 和 Mistral 模型自托管与微调技能的 ML 工程师。参与者将学习实用的治理、监控与合规技术，从而自信地在生产环境中部署开源 AI。
更多...
LangGraph在金融领域的应用
35 小時
本次由讲师指导的香港培训,帮助专业人士设计基于LangGraph的金融解决方案。参与者将学习实施符合监管要求的工作流、集成数据标准,并部署具备强大治理、可观测性与合规控制能力的系统。
更多...
LangGraph基础：基于图的LLM提示与链式调用
14 小時
本讲师引导的LangGraph基础课程在香港举办，帮助开发者构建基于图的LLM应用。学习节点、边、状态管理和分支逻辑等核心概念。集成工具、检索和外部API，然后通过动手实验测试并部署可靠的工作流。
更多...
LangGraph在医疗保健中的应用：受监管环境下的工作流编排
35 小時
通过本次在香港举办的培训，探索LangGraph在医疗保健领域的应用，适合中级至高级专业人士。学习设计有状态、合规的工作流，集成FHIR和SNOMED CT等标准，并应对受监管环境中的伦理与运营挑战。
更多...
適用於法律應用的 LangGraph
35 小時
透過在 香港 舉辦的 35 小時講師主導培訓，掌握適用於法律應用的 LangGraph。本課程適合中高階專業人士，內容涵蓋工作流程設計、合規控制與人機協作審批，協助您自信地建構可稽核且適用於正式環境的 LLM 解決方案。
更多...
使用LangGraph与LLM智能体构建动态工作流
14 小時
本次线上或线下课程在香港中指导中级工程师使用LangGraph构建动态LLM工作流。学习设计有状态图、实现分支逻辑，并集成检索、API和记忆，以构建稳健、具有上下文感知能力的应用。
更多...
LangGraph 行銷自動化
14 小時
這個由講師指導的培訓以香港介紹 LangGraph 行銷自動化。參與者將學習設計條件式內容工作流程、整合 LLM 以實現個人化電子郵件行銷活動，以及管理多步驟管道中的狀態，獲得現代行銷的實用技能。
更多...
Le Chat Enterprise：私有ChatOps、整合與管理控制
14 小時
此香港培訓涵蓋Le Chat Enterprise，這是一個私有ChatOps解決方案，用於安全且受治理的對話式AI。學習者將部署、設定並將其與企業應用程式整合，啟用RBAC、SSO及合規驅動的控制，以實現可擴展且安全的AI工作流程。
更多...
高成本效益的LLM架構：Mistral大規模部署（效能／成本工程）
14 小時
掌握具成本效益的Mistral LLM架構，參加此14小時的香港培訓。學習部署、優化及擴展Mistral Medium 3，以實現最大吞吐量與最低成本，運用批次處理、量化及高效服務策略應對企業工作負載。
更多...
利用Mistral连接器和集成实现对话助手的商业化
14 小時
本培训在香港进行，涵盖将Mistral对话助手集成到企业工作流程中。参与者将学习连接SaaS工具、实施检索增强生成，并为面向客户和内部的聊天界面设计有效的用户体验模式。
更多...
使用 Mistral Medium 3 的企业级部署
14 小時
本讲师指导的香港培训，帮助高级 AI 工程师部署并保护 Mistral Medium 3。您将优化推理成本、实现多模态用例，并应用企业合规实践。培训包含 API 和自托管设置的动手实验。
更多...
Mistral 负责任 AI：隐私、数据驻留与企业控制
14 小時
本次 Mistral 负责任 AI 培训在香港举办，专为合规与安全负责人设计。您将掌握隐私保护技术、数据驻留策略，以及 RBAC 和 SSO 等企业控制，确保实现安全、合规的 AI 部署。
更多...
使用Mistral模型的多模态应用（视觉、OCR与文档理解）
14 小時
学习使用Mistral模型构建多模态应用，重点关注OCR、文档理解和视觉-文本搜索。本次动手培训涵盖流程实施、NLP集成和企业级设计，以线上或香港方式授课。
更多...
