LayerSkip：自推测解码加速文本生成

Hugging Face 博客介绍了 LayerSkip，一种自推测解码方法，通过训练时随机跳过中间层，并在推理时使用早期层作为草稿模型，结合验证机制加速文本生成。该方法无需额外模型，可降低延迟，适用于 Transformer 架构。实验显示，在多个任务上可实现 2-3 倍加速，且质量损失极小。