聯繫我們

課程簡介

安全本地AI基礎

  • 理解受監管環境中“本地”與“企業內部”AI的含義
  • 雲AI與內部部署在處理敏感工作負載時的對比
  • 私人助手及工作流支持在企業中的常見用例
  • 安全本地AI架構的核心組件

Ollama與開放模型基礎

  • Ollama如何在本地開發棧中發揮作用
  • 在本地拉取、運行及管理模型
  • 根據規模、質量、硬件及許可證選擇模型
  • 將模型選項匹配至實際業務任務

準備企業內部環境

  • 主機、工作站與服務器的準備工作
  • 安裝並配置用於本地推理的Ollama
  • 使用容器及內部開發工具鏈
  • 驗證API訪問權限及基礎運營就緒狀態

高效使用本地模型

  • 通過系統指令運行提示詞並塑造輸出結果
  • 重用模板以執行一致的企業任務
  • 管理模型版本及內部產物
  • 針對CPU和GPU部署進行基礎性能調優

構建實用代理式工作流

  • 瞭解受控環境中使工作流具備“代理”特性的要素
  • 規劃、工具使用及響應循環的簡單模式
  • 爲內部運營設計聚焦任務型的助手
  • 添加人工審覈、回退邏輯及錯誤處理機制

私有檢索工作流

  • 面向內部知識訪問的檢索增強生成基礎
  • 準備用於分塊、索引和搜索的文檔
  • 將本地向量數據庫連接至基於Ollama的應用程序
  • 通過更優的檢索模式提升相關性與回答質量

安全、治理與合規實踐

  • 數據處理邊界及隱私考量
  • 訪問控制、日誌記錄及審計支持
  • 提示詞安全、輸出控制及安全護欄
  • 受監管部署與運營中的治理檢查點

企業集成模式

  • 通過內部API暴露本地AI能力
  • 將助手集成至內部應用與服務
  • 支持助手、批處理及工作流自動化用例
  • 確保解決方案位於受控網絡邊界之內

評估本地AI解決方案

  • 評估質量、可靠性及一致性
  • 針對業務、政策及安全要求進行測試
  • 比較特定企業任務的模型選項
  • 爲內部團隊建立實用的改進循環

動手實現實驗

  • 利用Ollama與開放模型構建私有助手
  • 添加對經批准內部文檔的檢索功能
  • 引入簡單的代理動作及安全控制
  • 審查部署、運營及治理檢查點

採用規劃與後續步驟

  • 回顧關鍵設計與部署決策
  • 識別受監管AI項目中常見的陷阱
  • 規劃試點用例並協調利益相關方
  • 制定安全本地AI採用的路線圖

最低要求

  • 具備AI概念及軟件開發的基礎知識
  • 熟悉命令行工具、容器或本地開發環境
  • 具備基本的腳本編寫或編程經驗

適用人羣

  • 在內部基礎設施上構建私有AI解決方案的開發者與技術團隊
  • 支持受監管環境中AI應用的合規、安全及平臺專業人員
  • 金融、醫療、政府及國防行業的技術領導者,正在評估企業內部AI的採用
 21 小時

人數


每位參與者的報價

即將到來的課程

課程分類