跳到主内容
@wquguru
精选75Hugging Face 每日论文(json_list)论文研究

Ring Forcing:面向自回归视频扩散的精确长期记忆框架

Ring Forcing: Towards Precise Long-Term Memory for Autoregressive Video Diffusion

原文
发到 X

将视频生成扩展到长时间跨度时,暴露了一个关键瓶颈:当前模型缺乏稳健的长期记忆能力。这一缺陷可从两个关键方面进行研究:物体恒存性,即在物体重新出现时精确再现其外观的能力;以及记忆容量,即处理超长上下文并利用遥远历史信息的能力。稳健的长期记忆需要两者兼备:缺乏充分上下文处理的物体恒存性会限制时间范围,而缺乏恒存性的长上下文则无法维持身份一致性。为解决这一问题,我们提出了Ring Forcing,一个自回归视频扩散框架,旨在稳健地构建并精确利用长期记忆。我们的环形结构训练策略强制从遥远历史中检索信息,有效调和了严格历史遵循与生成多样性之间的权衡。为扩展记忆容量,我们引入了压缩与时间步组合策略。在固定序列长度约束下,该方法将有效历史跨度延伸至分钟级时长,并实现对全部历史的全面感受野。此外,我们提出了一种稀疏RoPE机制,以实现灵活、可扩展的记忆适应,同时充分利用预训练先验。大量实验表明,Ring Forcing在分钟级连贯性和物体恒存性方面表现卓越,显著优于现有最先进方法。

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

另一事件,读法相近