8.4 模型参数（Temperature、Top-p）的作用

引言：为什么工程师必须理解模型采样参数

无论是 ChatGPT、Claude、Gemini 还是企业 API，模型都暴露了两个关键参数：Temperature（温度） 和 Top-p（核采样）。这两个参数控制着模型生成文本时的创造性、稳定性、多样性和一致性。

8.4.1 模型生成答案的本质：概率采样

大模型在每一步生成 token 时，会得到一个概率分布。模型不会永远选概率最高的词，因为那样所有回答都一样。于是模型进行"采样"，而 Temperature、Top-p 就是调控"采样策略"的关键。

8.4.2 Temperature：决定模型"保守还是敢跳"

Temperature	特点	适用场景
0.0 ~ 0.3（低）	输出确定、保守，幻觉最少，每次输出几乎一致	编程、推理、法律、医疗、结构化任务
0.4 ~ 0.7（中）	稳定+某种程度创造性，综合模式	写作辅助、短视频脚本、文案
0.8 ~ 1.2+（高）	创造性大幅提高，想象力更强，幻觉风险更高	故事生成、诗歌、创意脑暴

8.4.3 Top-p：决定"取前多少概率质量"的 token

Top-p 的含义：从概率从高到低开始累积，当概率和达到 p，则只从这部分 token 中采样。

Top-p	效果
越低	token 候选越少，输出越稳定
越高	token 候选越多，输出越丰富多样

8.4.4 Temperature vs Top-p 核心区别

参数	控制方式	效果
Temperature	调整概率分布的"陡峭度"	控制模型是否"敢跳"
Top-p	限定可采样 token 的概率范围	控制候选范围大小

最简单直觉：Temperature = 调性（个性、风格），Top-p = 剪枝（候选空间）

8.4.5 大厂级最佳实践

任务类型	Temperature	Top-p	适用场景
严谨任务	0.0 ~ 0.2	0.7 ~ 1.0	编程、推理、法律、医疗
中度创造性	0.5 ~ 0.7	0.8 ~ 1.0	写作、脚本、文案（推荐默认值）
高度创造性	0.8 ~ 1.2	0.9 ~ 1.0	故事、诗歌、创意脑暴
企业生产环境	0.2	0.9	高一致性要求

8.4.6 四种经典组合策略

策略	Temperature	Top-p	适用场景
高稳定策略	0.1	0.8	专业分析、代码
平衡策略	0.7	1.0	通用聊天、写作
创造力极强策略	1.0	1.0	文案、艺术
高一致性策略	0.2	0.9	企业生产环境

8.4.7 常见陷阱

陷阱	后果
两个参数都调得太高	输出不可控、幻觉爆炸、风格漂移
两个参数都调得太低	输出呆板、创造性消失、重复性高
只盯 Temperature 解决幻觉	可能是 Top-p 导致 token 池太多
不同任务没有区分参数	模型在"创造"和"分析"之间混乱切换

本节小结

关键要点

1. Temperature = 随机性、创造性
2. Top-p = 选择范围、可控性
3. 两者共同控制模型"怎么思考"
4. 稳定任务用低温，创造性任务用高温
5. 企业生产环境用低温+中等 Top-p

模型参数是技术原理的重要组成，接下来我们将学习：模型能力边界与局限性。