Skip to content

10.3 什么时候不适合用 CoT

引言:为什么 CoT 不是"万能钥匙"

CoT 能提升推理成功率,是大厂级推理稳定性的核心技术。但工程师必须清楚:CoT 是武器,但不是所有场景都应该使用。甚至有些场景,一旦使用 CoT,会降低效果,甚至破坏任务质量。

10.3.1 误区 1:文案生成任务

CoT 最大的问题是:会让内容变得非常啰嗦,不自然,失去流畅性。 写广告文案时,应该直接生成优美文案(隐式推理),而不是展示推理步骤。

10.3.2 误区 2:风格转换任务

例如"把这段文本变成莎士比亚风格"。CoT 会把过程写出来,导致风格污染。隐式推理更自然,因为它直接"模仿风格",而不是"解释风格"。

10.3.3 误区 3:任务非常简单的场景

例如"介绍一下什么是区块链"、"帮我翻译一句话"。这些任务不需要多步骤推理,强行用 CoT 会导致内容过于冗长、信息重复、增加 token 成本。

10.3.4 误区 4:实时性任务

显式推理会显著降低速度。不适合:实时问答系统、客服机器人、自动化 Agent 高频循环、高频工具调用链路。

10.3.5 误区 5:敏感或安全相关任务

CoT 的风险:会意外展示模型的内部推理结构,增加越狱风险。 内容审核、安全过滤、伦理裁决等任务,大厂系统会关闭 CoT。

10.3.6 误区 6:用户不希望看到推理的场景

商务写作、求职简历、文章润色、对话式应用等,用户希望简洁、直接、优雅,显式 CoT 反而会破坏体验。

10.3.7 误区 7:模型知识不足的场景

CoT 假设模型"推理的基础是正确的"。如果模型知识不足,CoT 会让模型"自信地胡思乱想",幻觉反而会被强化。

10.3.8 CoT 使用决策表

场景是否推荐 CoT
文案生成不推荐
风格转换不推荐
普通问答不推荐
实时系统不推荐
安全/审核系统不推荐
用户不需要过程不推荐
模型知识不足不推荐
简单任务不推荐
需要深度推理必须
数学/代码/分析必须
规划/决策必须
Agent 多阶段任务必须

本节小结

关键要点

  1. CoT 必须谨慎使用
  2. 文案、风格、简单任务 → 禁用 CoT
  3. 数学、分析、规划、决策 → 启用 CoT
  4. 不当使用 CoT 会导致啰嗦、跑偏、幻觉、越狱风险
  5. 工程师必须学会"CoT 使用的边界"

CoT 使用边界是推理控制的关键,接下来我们将学习:推理路径控制(RPC)