如何有效引导大型语言模型（LLMs）生成结构化输出？
2024-11-21 阅读 88
要让LLM给出结构化输出，核心是把结构和约束写进提示：明确描述字段、类型和必须/可选项，最好直接给出一个完整模板或示例，并要求“仅返回该格式”（例如只输出JSON {"name":"", "age":0}）。用明显的分隔符或标签（如 OUTPUT_START/END）避免多余文字；在API层面优先使用schema/function-calling等强制机制；把temperature调低并提供若干few-shot示例以固化格式。最后通过自动校验（JSON解析或正则）检测输出，不合格时让模型按照同一模板重写。这样可把格式错误和模糊输出降到最低。
更新于 2026年01月03日
