OpenAI的chat接口messages具体是通过什么形式给到大模型的呢？
2024-11-19 阅读 9
OpenAI 的 chat 接口是以 JSON 格式的一组 messages 传给后端，每条消息包含 role（常见有 system、user、assistant）、content（可选 name/metadata）。后端按顺序将这些消息串成上下文、加入内部的角色/分隔标记，再做分词（tokenize）得到 token id 序列，作为 Transformer 的输入上下文供模型处理并生成回复。system 消息通常放在最前面用作全局指令。
更新于 2026年01月03日
