类似斯坦福的ai小镇这类有趣开源的大模型项目还有哪些？有没有不需要使用openai接口就能跑的？
2023-11-15 阅读 14
类似的开源项目很多：Alpaca、Vicuna、Koala、OpenAssistant、Dolly、RedPajama、MPT、GPT-J/NeoX、Falcon 等，很多都是基于 LLaMA 或开源权重做的指令微调版本。完全不用 OpenAI 接口可以跑，把这些模型权重配合运行框架（Hugging Face Transformers、llama.cpp/ggml、text-generation-webui、LocalAI、vLLM 等）在本地或自建服务器上推理即可。简单入门路径是从 Hugging Face 下载合适权重，选用 text-generation-webui 或 llama.cpp（小模型能在单卡/CPU 运行，13B+ 通常需要较大 GPU），并注意模型的授权许可。
更新于 2025年12月30日
