使用 Hugging Face Transformers 和 AWS Inferentia 加速 BERT 推理
Accelerate BERT inference with Hugging Face Transformers and AWS Inferentia
精选理由
详解用 AWS Inferentia 加速 BERT 推理，帮助降低延迟与成本。
Accelerate BERT inference with Hugging Face Transformers and AWS Inferentia
详解用 AWS Inferentia 加速 BERT 推理，帮助降低延迟与成本。