Ollama入門：運行本地AI模型培訓
Ollama是一個開源平臺，允許用戶在本地運行大型語言模型（LLMs），而無需依賴基於雲的服務。
本課程爲講師主導的培訓（線上或線下），面向初學者，旨在幫助他們安裝、配置和使用Ollama在本地機器上運行AI模型。
在本課程結束時，學員將能夠：
- 瞭解Ollama的基本原理及其功能。
- 設置Ollama以運行本地AI模型。
- 使用Ollama部署並與LLMs進行交互。
- 優化AI工作負載的性能和資源使用。
- 探索本地AI部署在各行業的應用案例。
課程形式
- 互動式講座與討論。
- 大量練習與實踐。
- 在即時實驗室環境中進行動手操作。
課程定製選項
- 如需定製本課程，請聯繫我們安排。
課程簡介
Ollama簡介
- 什麼是Ollama，它是如何工作的？
- 本地運行AI模型的好處。
- 支持的LLMs概述（Llama、DeepSeek、Mistral等）。
安裝與設置Ollama
- 系統要求和硬件考慮。
- 在不同操作系統上安裝Ollama。
- 配置依賴項和環境設置。
本地運行AI模型
- 在Ollama中下載和加載AI模型。
- 通過命令行與模型交互。
- 本地AI任務的基本提示工程。
優化性能與資源使用
- 管理硬件資源以實現高效的AI執行。
- 減少延遲並提高模型響應時間。
- 爲不同模型進行性能基準測試。
本地AI部署的應用案例
- AI驅動的聊天機器人和虛擬助手。
- 數據處理和自動化任務。
- 注重隱私的AI應用。
總結與下一步
最低要求
- 對AI和機器學習概念有基本瞭解。
- 熟悉命令行界面。
受衆
- 希望在無雲依賴的情況下運行AI模型的開發者。
- 對AI隱私和成本效益部署感興趣的商業專業人士。
- 探索本地模型部署的AI愛好者。
公開培訓課程需要5名以上參與者。
Ollama入門：運行本地AI模型培訓 - 訂單
Ollama入門：運行本地AI模型培訓 - 詢問
Ollama入門：運行本地AI模型 - 咨詢詢問
即將到來的課程
相關課程
進階Ollama模型除錯與評估
35 小時使用Ollama構建私有AI工作流
14 小時本課程爲講師指導的香港（線上或線下）培訓，面向希望使用Ollama實現安全高效的AI驅動工作流的高級專業人員。
培訓結束後，學員將能夠：
- 部署和配置Ollama以進行私有AI處理。
- 將AI模型集成到安全的企業工作流中。
- 在保持數據隱私的同時優化AI性能。
- 利用本地AI能力自動化業務流程。
- 確保符合企業安全和治理政策。
使用Ollama部署和優化LLMs
14 小時本次由講師指導的香港培訓（線上或線下）面向希望使用Ollama部署、優化和集成LLMs的中級專業人員。
培訓結束後，參與者將能夠：
- 使用Ollama設置和部署LLMs。
- 優化AI模型的性能和效率。
- 利用GPU加速提高推理速度。
- 將Ollama集成到工作流和應用中。
- 監控和維護AI模型的長期性能。
在Ollama上微調和定製AI模型
14 小時本課程由講師主導，提供香港的線上或線下培訓，面向希望微調和定製Ollama上的AI模型以提升性能和領域特定應用的高級專業人士。
培訓結束後，參與者將能夠：
- 在Ollama上爲微調AI模型設置高效環境。
- 準備數據集以進行監督微調和強化學習。
- 優化AI模型的性能、準確性和效率。
- 在生產環境中部署定製模型。
- 評估模型改進並確保其魯棒性。
使用Ollama的多模态应用
21 小時Ollama与数据隐私：安全部署模式
14 小時金融領域中的 Ollama 應用
14 小時這門在 香港 舉行的講師主講實地培訓，將賦予金融實務人員及 IT 人員在本地實施 Ollama 的技能。參與者將學習如何部署、設定並整合大型語言模型至安全的金融工作流，並應用合規性及自動化的最佳實踐。
Ollama 在醫療保健領域的應用
14 小時這門在 香港 舉行的培訓課程，協助醫療從業者及IT團隊部署 Ollama，以運行本地 LLM。學員將學習如何將人工智能整合至臨床工作流程，針對特定任務自定義模型，並在安全的醫療環境中確保嚴格的数据隱私及法規合規。
Ollama：自託管大語言模型替代OpenAI和Claude API
14 小時Ollama是一款開源工具，能夠在消費級和企業級硬件上本地運行大語言模型。它將模型量化、GPU分配和API服務抽象爲一個單一的命令行界面，使組織能夠自託管Llama、Mistral和Qwen等大語言模型，而無需將提示或數據發送到OpenAI、Anthropic或Google。
