为什么大模型能通过自然语言训练拥有智能？智能的载体是自然语言吗？
2023-12-01 阅读 108
大模型能在自然语言上表现出“智能”，是因为用大量文本和自回归/掩码等预测任务训练，模型被逼着捕捉词序、语义关联、常识和语境依赖，内部形成抽象表示并能基于这些表示做组合推理和生成。自然语言不是智能的唯一载体，而是一个高度浓缩且便于传递人类经验与概念的信息媒介，作为训练信号和交互接口特别有效。但真正更稳健的智能通常还需要多模态感知、行动能力和与环境的因果、目标关联，单靠文本会有语义空洞和缺乏实地归纳的局限。
更新于 2025年12月31日
