ChatGPT是否只用了Transformer中的Decoder？
2023-05-20 阅读 141
ChatGPT是基于Transformer的模型，但是它并不只是使用了Transformer中的Decoder。实际上，ChatGPT是由多个Transformer Decoder堆叠而成的，每个Decoder都有自己的注意力机制和前馈神经网络。这些Decoder在处理输入序列时，会逐渐生成输出序列，直到达到最终的输出结果。因此，ChatGPT可以看作是一种序列到序列的模型，它可以用于生成自然语言文本，比如对话或文章等。
更新于 2023年05月24日
