chatGLM-6B

1.1 硬件需求

量化等级	最低 GPU 显存
FP16（无量化）	13 GB
INT8	10 GB
INT4	6 GB

1.2 项目地址

• Github： https://github.com/THUDM/ChatGLM-6B
• Hugging Face Hub(模型地址)： https://huggingface.co/THUDM/chatglm-6b