Hugging Face Blog精选73

使用自推测解码实现更快的文本生成

Faster Text Generation with Self-Speculative Decoding

· 693天前

精选理由

介绍无需额外模型的自推测解码,帮助加速文本生成并降低推理成本。

查看原文(Hugging Face Blog)