ggerganov/llama.cpp

https://huggingface.co/frankenstyle/ggml-q4-models int4，用于CPU部署，大小约17GB.

tloen/alpaca-lora

预训练模型文件：https://huggingface.co/decapoda-research/llama-7b-hf/tree/main
lora微调模型文件：https://huggingface.co/tloen/alpaca-lora-7b

antimatter15/alpaca.cpp

https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml

THUDM/ChatGLM-6B

https://huggingface.co/THUDM/chatglm-6b

huggingface下载方法

一共有三种下载方法

1. 在页面直接点击下载
2. 通过git lfs install然后再clone进行大文件下载
3. 通过pip install huggingface_hub,使用python脚本将模型下载到cache目录下

参考：https://zhuanlan.zhihu.com/p/475260268