聯繫我們
 課程時長 21 時間:

課程簡介

AI系統的架構基礎

  • 層次、邊界及關注點分離
  • 將端口與適配器應用於AI元件
  • AI功能的品質屬性場景
  • 將架構決策記錄作為治理工具

演進現有應用程式

  • 以增量現代化取代重寫
  • 將AI服務置於現有单体架構旁
  • 絞殺者模式與防腐層模式
  • 現有API及資料的整合點

LLM整合架構模式

  • 作為抽象邊界的模型網關
  • 同步、異步及串流整合
  • 回退、降級及供應商故障轉移
  • 將提示詞及模型配置視為版本化資產

合約、API及資料交換

  • 結構化輸出模式及驗證
  • 冪等性、重試及速率限制
  • 延遲預算及逾時協調
  • 將單次請求成本視為架構約束

RAG架構的端到端設計

  • 攝取、分塊及嵌入流程
  • 索引、檢索、重排序及生成階段
  • 相對於應用程式服務的檢索位置
  • 各階段的權衡與失敗模式

向量資料庫與檢索設計

  • 託管與自託管向量儲存
  • 稠密、稀疏及混合搜尋
  • 中繼資料篩選及租戶隔離
  • 模型變更時的重新嵌入策略

檢索品質、 grounding與評估

  • 基於真實查詢構建評估集
  • 檢索與答案品質指標
  • 引用、grounding及幻覺抑制
  • 反饋迴路寫回索引

代理架構

  • 代理迴路與工具調用
  • 確定性工作流與自主規劃器的比較
  • 代理不適用案例
  • 界定代理職責與狀態

多代理系統與協調

  • 監督者與協調者拓撲結構
  • 交接協議及訊息合約
  • 共享記憶與上下文管理
  • 基於架構基礎的框架比較

服務通訊與工具協議

  • 事件驅動與佇列協調
  • 透過標準協議暴露工具
  • Saga、補償及長週期交易
  • 跨服務跳轉的可觀察性

開發工作流程中的AI代理

  • 交付管線中的編程代理
  • 規範驅動開發與審查閘門
  • 測試生成與自動化品質檢查
  • 保持架構掌控的護欄

治理與軟體品質

  • AI功能的設計審查
  • 模型與提示詞的變更管理
  • 作為管線階段的回歸評估
  • 所有权、政策及審批路徑

安全性、隱私及資料治理

  • 提示詞注入及深度防禦
  • 機密資訊、存取控制及最小權限
  • 資料駐留、個人資料及保留期
  • 可審計性及人在回路控制

擴展性、成本與可觀察性

  • 跨代理鏈的追蹤
  • 令牌與成本遙測
  • 快取及延遲優化
  • AI服務的等級協議與事件回應

綜合項目:AI驅動方案的架構

  • 上下文、元件及部署視圖
  • 檢索與代理協調設計
  • 安全性、治理及成本計劃
  • 同儕審查、批評及遷移路線圖

最低要求

  • 具備設計與維護生產級軟體系統的經驗
  • 熟悉REST API及服務整合
  • 了解關係型資料庫及資料建模
  • 對基於LLM的工具或API有基本認知

目標受眾

  • 軟體架構師
  • 技術領導者及高階工程師
  • 負責架構決策的工程經理

人數


每位參與者的報價

客戶評論 (1)

即將到來的課程

課程分類