DiScoFormer：统一密度与分数的跨分布Transformer

Allen AI 团队提出 DiScoFormer，一种统一的 Transformer 架构，可同时学习概率密度函数和得分函数，并跨不同数据分布泛化。该方法通过单一模型处理多种分布，无需为每个分布单独训练，在密度估计和得分匹配任务上取得优异性能。实验表明，DiScoFormer 在合成数据和真实数据上均能有效捕捉分布特征，为生成模型和概率建模提供新思路。