十云官方文档
chatGLM-6B ¶
1.1 硬件需求
| 量化等级 | 最低 GPU 显存 |
|---|---|
| FP16（无量化） | 13 GB |
| INT8 | 10 GB |
| INT4 | 6 GB |
1.2 项目地址
- Github： https://github.com/THUDM/ChatGLM-6B
- Hugging Face Hub(模型地址)： https://huggingface.co/THUDM/chatglm-6b
1.1 硬件需求
| 量化等级 | 最低 GPU 显存 |
|---|---|
| FP16（无量化） | 13 GB |
| INT8 | 10 GB |
| INT4 | 6 GB |
1.2 项目地址