感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
LLM應用架構與設計
- OpenAI應用的常見模式,如助手、副駕駛和工作流自動化
- 根據業務需求、可靠性和用戶體驗選擇正確的架構
- 從原型代碼過渡到可維護的應用設計
提示、上下文與結構化輸出
- 爲系統、用戶和開發者指令設計結構化,以實現可預測的行爲
- 設計提示以實現一致性、任務控制和更清晰的響應
- 使用結構化輸出來支持下游應用邏輯
- 管理上下文窗口、對話狀態和響應質量
工具使用與工作流編排
- 使用函數調用和工具驅動的工作流與外部服務交互
- 驗證輸入和輸出,處理錯誤,並應用回退行爲
- 爲實際業務任務設計多步驟流程
檢索與知識錨定
- 確定何時適合使用檢索增強生成
- 準備文檔並分塊內容以實現有效檢索
- 檢索相關上下文並將響應錨定在可信來源中
評估、防護與操作準備
- 定義質量標準並測試工作流是否符合預期結果
- 減少幻覺並處理不安全、不相關或模糊的請求
- 監控使用情況、延遲、令牌消耗和成本
- 爲應用的部署、支持和迭代改進做好準備
動手實踐工作坊
- 構建一個端到端的OpenAI應用,結合提示、結構化輸出、工具使用和檢索
- 回顧設計決策、常見問題以及生產使用的實際後續步驟
最低要求
- 熟悉大語言模型概念和基於API的應用開發
- 具備使用REST API、JSON和提示驅動應用工作流的經驗
- 具備Python、JavaScript或類似語言的中級編程經驗
受衆
- 構建LLM驅動應用的軟件開發人員
- 設計基於OpenAI解決方案的AI工程師和技術負責人
- 負責生產級AI功能的產品團隊和解決方案架構師
7 小時