聯繫我們
 課程時長 7 時間:

課程簡介

從文本生成到類型化決策

  • 決策模型回傳的內容
  • 系統一決策與推理型LLM的對比
  • 有界決策的成本與延遲特徵

開源權重決策模型全景

  • 來自AWS Labs的Strands Decider 2B
  • JEV和GEV開源權重系列
  • Pplx-Decider、Liquid D1和Clef
  • 授權與部署差異

深入決策模型內部

  • 無語言建模頭的LLM軀幹
  • 在候選選項上進行打分的指針頭
  • 置信度得分的來源

運行首次決策

  • 在CPU和消費級GPU上的本地設置
  • 措辭問題與選項集
  • 在一次傳播中詢問多個問題
  • 閾值與回退行為

判斷決策質量

  • JevBench及決策基準測試
  • 準確率與校準的對比
  • Brier分數及置信度可靠性
  • 決策模型不適合的任務場景

最低要求

  • 對大型語言模型及基於提示的應用有基本了解。
  • 熟悉命令列和Python腳本。
  • 無需機器學習訓練經驗。

受眾

  • 評估代理工作流中決策模型的AI工程師
  • 使用有界決策取代LLM調用的軟體開發人員
  • 設計代理架構的解決方案與平台架構師
  • 評估決策模型選項的技術產品經理

人數


每位參與者的報價

即將到來的課程

課程分類