首页
small large language model有搞头吗?
2023-07-06 阅读 3
有搞头,但要看目标。小模型优势是推理快、成本低、易部署到边缘设备、便于保护隐私和做专用定制,适合移动端、工业落地、领域化任务或作为大模型的蒸馏/微调基础;局限在通用能力、复杂推理和生成质量上通常不如大模型,需要更精心的数据、提示工程和评测。总之,若重视成本、延迟或特定任务,小模型值得投入;若追求最高通用能力,则需大模型或混合方案。
更新于 2025年12月20日