Google Research 提出 Titans 长记忆架构与 MIRAS 序列建模框架

Google Research 介绍 Titans 架构与 MIRAS 理论框架，探索让模型在运行中依据新信息更新长期记忆，并结合 RNN 式线性推理效率与更强记忆表达能力。来源称，Titans 在 BABILong 长文档任务中超过所测基线（包括 GPT-4），并可扩展至超过 200 万 token 的上下文；这些结果为研究方报告。