微软发布差分Transformer V2

微软发布了差分Transformer V2（Diff Transformer V2），这是一种改进的Transformer架构，通过差分注意力机制增强模型对长序列的建模能力。该版本在原有基础上优化了计算效率，并在多个长文本任务上取得了更好的性能。相关代码和模型权重已在Hugging Face上开源。