Hugging Face Blog精选73

将 LLMs 微调至 1.58bit:轻松实现极限量化

Fine-tuning LLMs to 1.58bit: extreme quantization made easy

· 756天前

精选理由

介绍将大模型微调至1.58bit的方法,帮助降低显存与部署成本。

查看原文(Hugging Face Blog)