首页
small large language model有搞头吗?
2023-07-06 阅读 11
有搞头，但要看目标。小模型优势是推理快、成本低、易部署到边缘设备、便于保护隐私和做专用定制，适合移动端、工业落地、领域化任务或作为大模型的蒸馏/微调基础；局限在通用能力、复杂推理和生成质量上通常不如大模型，需要更精心的数据、提示工程和评测。总之，若重视成本、延迟或特定任务，小模型值得投入；若追求最高通用能力，则需大模型或混合方案。
更新于 2025年12月20日
