/images/hugo/avatar.png

APO - GEPA

上一篇中,我们了解了 LLM 评估和 APO 的基本概念,今天我来学习 DSPY 提供 APO 的一种实现 GEPA。

GEPA 整体流程

GEPA 整体分为三大阶段:准备初始化阶段 → 循环迭代阶段(重复直到预算耗尽) → 终止输出阶段

APO - MIPROv2

上一篇中,我们了解了 LLM 评估和 APO 的基本概念。本篇学习 DSPy 提供的一种 APO 实现 MIPROv2。

MIPROv2 把 Prompt 优化分为两个阶段:第一阶段生成 few-shot examples 和 instruction candidates,第二阶段将它们组合起来,在控制成本的前提下尽快找到比较好的组合。

Base Agent - API 形态实现

至此我们对 API 形态的 Base Agent 实现做一个总结。最后我们会讨论 Agent 的 Serverless 改造。

1. Agent 执行流程

API 形态:

  1. UI: 实现 doNext,负责驱动 AgentLoop 的执行,实现多步执行的语义,每一次 AgentLoop 发起一次对 API 的 Post 请求,并更新 UI 侧状态。
  2. API Server: 使用请求的 SessionID 重建 AgentLoop,执行一轮循环,并根据 AgentLoop 执行结果更新 Session

对比 TUI: TUI 初始化 AgentLoop,提供 doNext 方法驱动 AgentLoop 执行。

LLM 评估基础和 APO

1. 为什么当下需要 LLM 评估

模型的能力,已经在超出很多任务的需求,这意味着不一定更好的模型就是最适用的。

我们开始需要从其他方面开始考虑如何筛选模型,包括: