首页
预训练模型在自然语言处理中的应用有哪些?
2023-12-07 阅读 12
预训练模型在NLP中应用广泛,主要包括两类:一是作为下游任务的通用表征,通过微调或特征抽取用于文本分类、命名实体识别、依存/句法分析、情感分析等;二是用于生成类任务,如机器翻译、自动摘要、对话系统和开放域文本生成。还常用于问答与检索增强、语义搜索与文本相似度、少样本/迁移学习、领域自适应、句向量提取、数据增强与模型蒸馏等。
更新于 2026年01月01日