图灵奖得主杨立昆表示「类 GPT 主流路线存在局限,仍不如人和动物」,如何解读这一观点?
2023-06-13 阅读 33
杨立昆的观点是指,当前主流的类 GPT(Generative Pre-trained Transformer)模型虽然在自然语言处理领域取得了很大的进展,但仍然存在局限性,无法达到人和动物的理解和表达能力。
他认为,类 GPT 模型的训练方式是基于大规模的语料库,但语料库中的数据并不具有丰富的语义信息,只是简单的语言表达。而人和动物的理解和表达能力是基于对世界的感知和认知,而非简单的语言表达。因此,类 GPT 模型在语义理解和推理方面仍然存在很大的局限性。
这一观点提醒我们,尽管类 GPT 模型在自然语言处理领域取得了很大的进展,但我们仍然需要更加全面和深入的方法来解决自然语言理解和表达的问题。
更新于 2023年06月14日