Hugging Face Blog精选66

辅助生成:迈向低延迟文本生成的新方向

Assisted Generation: a new direction toward low-latency text generation

· 1252天前

精选理由

介绍辅助生成如何降低文本生成延迟,为高效部署大模型提供思路。

查看原文(Hugging Face Blog)