Hugging Face Text Generation Inference 现已支持 AWS Inferentia2
Hugging Face Text Generation Inference available for AWS Inferentia2
精选理由
帮助开发者在AWS Inferentia2上高效部署文本生成模型，降低推理成本。
Hugging Face Text Generation Inference available for AWS Inferentia2
帮助开发者在AWS Inferentia2上高效部署文本生成模型，降低推理成本。