Hugging Face Blog精选79

TGI Multi-LoRA:部署一次,服务 30 个模型

TGI Multi-LoRA: Deploy Once, Serve 30 Models

· 818天前

精选理由

介绍 TGI Multi-LoRA 一次部署同时服务 30 个模型,降低成本并提升推理灵活性。

查看原文(Hugging Face Blog)