Appearance
14.4 Agent 的目标、边界、行动空间
引言:为什么 Agent 一定要有"目标、边界、行动空间"
一个 Agent 在运行时必须回答三个根本问题:我为什么存在(目标)、我能做什么/不能做什么(边界)、我可以采取哪些行动(行动空间)。缺少这些定义的 Agent 会行为混乱、无法完成任务、容易越权。
14.4.1 目标(Goal)
目标是 Agent 的"任务定义",是整个决策流程的起点。
| 要求 | 说明 |
|---|---|
| 清晰性 | 明确任务是什么 |
| 可衡量 | 知道什么时候算完成 |
| 包含终止条件 | 知道什么时候结束任务 |
14.4.2 边界(Boundaries)
| 边界类型 | 说明 |
|---|---|
| 能力边界 | 你能做什么、不能做什么 |
| 工具边界 | 工具怎么用、什么时候用、什么时候不能用 |
| 行为边界 | 不得无限循环、不得连续调用工具 |
| 安全边界 | 必须拒绝非法、有害、虚假、敏感内容 |
14.4.3 行动空间(Action Space)
| 行动类型 | 说明 |
|---|---|
| 推理 | 任务分析、信息整合、工具选择、状态更新 |
| 工具调用 | 搜索、代码执行、API 路由、SQL 查询等 |
| 输出最终结果 | 信息完整、与目标一致、不再继续使用工具 |
14.4.4 Agent Policies 模板
# Agent Goal
根据用户需求,通过必要的推理与工具调用完成任务
# Boundaries
1. 不得杜撰、臆测或虚构外部信息
2. 只有在无法直接回答时才能调用工具
3. 不得进行无限循环
4. 必须严格遵守安全规则
# Action Space
1. Thought:进行推理
2. Action:调用工具
3. Final Answer:完成任务时输出最终答案14.4.5 常见失败案例
| 失败 | 原因 |
|---|---|
| Agent 进入死循环 | 没有终止条件 |
| Agent 滥用工具 | 边界没写 |
| Agent 不知道怎么开始 | 目标不明确 |
| Agent 越权操作 | 安全边界缺失 |
本节小结
关键要点
- 目标决定 Agent 的方向
- 边界决定 Agent 的安全性与稳定性
- 行动空间决定 Agent 的能力
- "目标-边界-行动空间"是构建可控 Agent 的根基
Agent Policies 是 Agent 的核心,接下来我们将学习:Agent 状态管理。


