OpenAI API参数速查手册
OpenAI API参数速查手册
调用大模型 API 时,参数决定输出风格、长度、稳定性和成本。下面以常见参数思路做速查,具体字段名称和支持范围应以当前官方文档为准。
模型与输入
model:选择使用的模型。不同模型在能力、速度、价格、上下文长度和多模态支持上不同。
messages / input:用户提供的内容,通常包含系统指令、用户问题、历史对话和工具结果。输入越清晰,输出越稳定。
system instruction:规定模型角色、边界和风格。例如“你是严谨的 Python 教师”。
输出控制
max output tokens:限制最大输出长度。太小会截断,太大可能增加成本。
temperature:控制随机性。写代码、抽取字段、生成 JSON 时建议较低;头脑风暴、创意写作可适当提高。
top_p:另一种采样控制方式。通常不要同时大幅调整 temperature 和 top_p,避免难以判断原因。
工具与格式
tools / function calling:允许模型调用外部函数,例如查数据库、发请求、计算结果。适合需要真实数据或执行动作的场景。
response format:要求模型按 JSON 或特定结构输出。做程序集成时非常重要。
stream:流式输出,适合聊天界面,用户能更快看到内容。
成本相关
成本通常和输入 token、输出 token、模型类型有关。长上下文、长输出和高频调用都会增加费用。上线前应记录 token 用量和平均请求成本。
常见配置建议
事实问答:低 temperature,要求引用来源或说明不确定。
代码生成:低 temperature,要求给测试和边界条件。
创意写作:中等 temperature,给风格示例。
结构化抽取:低 temperature,启用 JSON 输出,并对字段缺失做约定。
排查建议
输出太发散,降低 temperature 并收紧提示词。输出被截断,增加最大输出长度或拆分任务。JSON 不稳定,使用结构化输出并减少自由文本。成本过高,压缩上下文、缓存结果或换更小模型。