感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程時長 21 時間：
課程簡介
安全本地AI基礎
- 理解受監管環境中“本地”與“企業內部”AI的含義
- 雲AI與內部部署在處理敏感工作負載時的對比
- 私人助手及工作流支持在企業中的常見用例
- 安全本地AI架構的核心組件
Ollama與開放模型基礎
- Ollama如何在本地開發棧中發揮作用
- 在本地拉取、運行及管理模型
- 根據規模、質量、硬件及許可證選擇模型
- 將模型選項匹配至實際業務任務
準備企業內部環境
- 主機、工作站與服務器的準備工作
- 安裝並配置用於本地推理的Ollama
- 使用容器及內部開發工具鏈
- 驗證API訪問權限及基礎運營就緒狀態
高效使用本地模型
- 通過系統指令運行提示詞並塑造輸出結果
- 重用模板以執行一致的企業任務
- 管理模型版本及內部產物
- 針對CPU和GPU部署進行基礎性能調優
構建實用代理式工作流
- 瞭解受控環境中使工作流具備“代理”特性的要素
- 規劃、工具使用及響應循環的簡單模式
- 爲內部運營設計聚焦任務型的助手
- 添加人工審覈、回退邏輯及錯誤處理機制
私有檢索工作流
- 面向內部知識訪問的檢索增強生成基礎
- 準備用於分塊、索引和搜索的文檔
- 將本地向量數據庫連接至基於Ollama的應用程序
- 通過更優的檢索模式提升相關性與回答質量
安全、治理與合規實踐
- 數據處理邊界及隱私考量
- 訪問控制、日誌記錄及審計支持
- 提示詞安全、輸出控制及安全護欄
- 受監管部署與運營中的治理檢查點
企業集成模式
- 通過內部API暴露本地AI能力
- 將助手集成至內部應用與服務
- 支持助手、批處理及工作流自動化用例
- 確保解決方案位於受控網絡邊界之內
評估本地AI解決方案
- 評估質量、可靠性及一致性
- 針對業務、政策及安全要求進行測試
- 比較特定企業任務的模型選項
- 爲內部團隊建立實用的改進循環
動手實現實驗
- 利用Ollama與開放模型構建私有助手
- 添加對經批准內部文檔的檢索功能
- 引入簡單的代理動作及安全控制
- 審查部署、運營及治理檢查點
採用規劃與後續步驟
- 回顧關鍵設計與部署決策
- 識別受監管AI項目中常見的陷阱
- 規劃試點用例並協調利益相關方
- 制定安全本地AI採用的路線圖
最低要求
- 具備AI概念及軟件開發的基礎知識
- 熟悉命令行工具、容器或本地開發環境
- 具備基本的腳本編寫或編程經驗
適用人羣
- 在內部基礎設施上構建私有AI解決方案的開發者與技術團隊
- 支持受監管環境中AI應用的合規、安全及平臺專業人員
- 金融、醫療、政府及國防行業的技術領導者，正在評估企業內部AI的採用
