Ollama入門:運行本地AI模型培訓
Ollama是一個開源平臺,允許用戶在本地運行大型語言模型(LLMs),而無需依賴基於雲的服務。
本課程爲講師主導的培訓(線上或線下),面向初學者,旨在幫助他們安裝、配置和使用Ollama在本地機器上運行AI模型。
在本課程結束時,學員將能夠:
- 瞭解Ollama的基本原理及其功能。
- 設置Ollama以運行本地AI模型。
- 使用Ollama部署並與LLMs進行交互。
- 優化AI工作負載的性能和資源使用。
- 探索本地AI部署在各行業的應用案例。
課程形式
- 互動式講座與討論。
- 大量練習與實踐。
- 在即時實驗室環境中進行動手操作。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
課程簡介
Ollama簡介
- 什麼是Ollama,它是如何工作的?
- 本地運行AI模型的好處。
- 支持的LLMs概述(Llama、DeepSeek、Mistral等)。
安裝與設置Ollama
- 系統要求和硬件考慮。
- 在不同操作系統上安裝Ollama。
- 配置依賴項和環境設置。
本地運行AI模型
- 在Ollama中下載和加載AI模型。
- 通過命令行與模型交互。
- 本地AI任務的基本提示工程。
優化性能與資源使用
- 管理硬件資源以實現高效的AI執行。
- 減少延遲並提高模型響應時間。
- 爲不同模型進行性能基準測試。
本地AI部署的應用案例
- AI驅動的聊天機器人和虛擬助手。
- 數據處理和自動化任務。
- 注重隱私的AI應用。
總結與下一步
最低要求
- 對AI和機器學習概念有基本瞭解。
- 熟悉命令行界面。
受衆
- 希望在無雲依賴的情況下運行AI模型的開發者。
- 對AI隱私和成本效益部署感興趣的商業專業人士。
- 探索本地模型部署的AI愛好者。
公開培訓課程需要5名以上參與者。
Ollama入門:運行本地AI模型培訓 - 訂單
Ollama入門:運行本地AI模型培訓 - 詢問
Ollama入門:運行本地AI模型 - 咨詢詢問
即將到來的課程
相關課程
高級 Ollama 模型調試與評估
35 小時使用Ollama構建私有AI工作流
14 小時本課程爲講師指導的香港(線上或線下)培訓,面向希望使用Ollama實現安全高效的AI驅動工作流的高級專業人員。
培訓結束後,學員將能夠:
- 部署和配置Ollama以進行私有AI處理。
- 將AI模型集成到安全的企業工作流中。
- 在保持數據隱私的同時優化AI性能。
- 利用本地AI能力自動化業務流程。
- 確保符合企業安全和治理政策。
使用Ollama部署和優化LLMs
14 小時本次由講師指導的香港培訓(線上或線下)面向希望使用Ollama部署、優化和集成LLMs的中級專業人員。
培訓結束後,參與者將能夠:
- 使用Ollama設置和部署LLMs。
- 優化AI模型的性能和效率。
- 利用GPU加速提高推理速度。
- 將Ollama集成到工作流和應用中。
- 監控和維護AI模型的長期性能。
在Ollama上微調和定製AI模型
14 小時本課程由講師主導,提供香港的線上或線下培訓,面向希望微調和定製Ollama上的AI模型以提升性能和領域特定應用的高級專業人士。
培訓結束後,參與者將能夠:
- 在Ollama上爲微調AI模型設置高效環境。
- 準備數據集以進行監督微調和強化學習。
- 優化AI模型的性能、準確性和效率。
- 在生產環境中部署定製模型。
- 評估模型改進並確保其魯棒性。
多模態應用與Ollama
21 小時Ollama 是一個平臺,支持在本地運行和微調大型語言和多模態模型。
本次由講師指導的培訓(線上或線下)面向高級機器學習工程師、AI 研究人員和產品開發人員,他們希望使用 Ollama 構建和部署多模態應用。
培訓結束後,學員將能夠:
- 使用 Ollama 設置和運行多模態模型。
- 整合文本、圖像和音頻輸入,用於實際應用。
- 構建文檔理解和視覺問答系統。
- 開發能夠跨模態推理的多模態代理。
課程形式
- 互動式講座和討論。
- 使用真實多模態數據集進行實踐操作。
- 使用 Ollama 即時實驗室實現多模態管道。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
Ollama與數據隱私:安全部署模式
14 小時Ollama在金融中的應用
14 小時Ollama在醫療保健中的應用
14 小時Ollama:自託管大語言模型替代OpenAI和Claude API
14 小時Ollama是一款開源工具,能夠在消費級和企業級硬件上本地運行大語言模型。它將模型量化、GPU分配和API服務抽象爲一個單一的命令行界面,使組織能夠自託管Llama、Mistral和Qwen等大語言模型,而無需將提示或數據發送到OpenAI、Anthropic或Google。
Ollama 負責任的人工智能與治理
14 小時Ollama是一個本地運行大型語言和多模態模型的平臺,支持治理和負責任的AI實踐。
本次由講師主導的培訓(線上或線下)面向中級到高級專業人士,旨在幫助他們在Ollama驅動的應用中實現公平性、透明性和問責制。
通過本培訓,參與者將能夠:
- 在Ollama部署中應用負責任的AI原則。
- 實施內容過濾和偏見緩解策略。
- 設計用於AI對齊和可審計性的治理工作流程。
- 建立監控和報告框架以確保合規性。
課程形式
- 互動式講座和討論。
- 實踐性的治理工作流程設計實驗。
- 案例研究和以合規爲重點的練習。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們進行安排。
Ollama擴展與基礎設施優化
21 小時Prompt Engineering Mastery with Ollama
14 小時Ollama是一個平臺,支持在本地運行大型語言和多模態模型。
本課程由講師指導,提供線上或線下培訓,面向中級從業者,旨在幫助他們掌握提示工程技術,以優化Ollama的輸出。
培訓結束後,學員將能夠:
- 爲多樣化用例設計有效的提示。
- 應用諸如引導和思維鏈結構等技術。
- 實現提示模板和上下文管理策略。
- 爲複雜工作流構建多階段提示管道。
課程形式
- 互動式講座與討論。
- 提示設計的實踐練習。
- 在即時實驗室環境中的實際應用。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。