长程 Transformer 综述：Hugging Face 二月阅读

Hugging Face 博客发布二月阅读推荐，聚焦长程 Transformer 综述。文章梳理了近年来针对长序列建模的 Transformer 变体，包括稀疏注意力、线性注意力、状态空间模型等方向，并讨论了它们在长文档理解、代码生成、多模态等场景的应用。综述还对比了不同方法的计算复杂度与效果，为研究者提供了技术选型参考。