首页
为什么ollama可以使用qwen2.5:14B，从hugface下载的模型说GPU内存不足？
2024-11-22 阅读 11
这可能是因为您的GPU内存不足以加载和运行下载的模型。qwen2.5:14B 是一个非常大的模型，需要较大的GPU内存来存储模型参数和计算中间结果。如果您的GPU内存不足以容纳整个模型，就会导致无法加载或运行模型。您可以尝试降低模型的大小或者考虑使用更大内存的GPU来解决这个问题。
更新于 2024年11月25日
