OpenAI的chat接口messages具体是通过什么形式给到大模型的呢?
2024-11-19 阅读 9
OpenAI 的 chat 接口是以 JSON 格式的一组 messages 传给后端,每条消息包含 role(常见有 system、user、assistant)、content(可选 name/metadata)。后端按顺序将这些消息串成上下文、加入内部的角色/分隔标记,再做分词(tokenize)得到 token id 序列,作为 Transformer 的输入上下文供模型处理并生成回复。system 消息通常放在最前面用作全局指令。
更新于 2026年01月03日