2025-02-01から1日間の記事一覧
『TRANSFORMER2: SELF-ADAPTIVE LLMS』 と、 『Titans: Learning to Memorize at Test Time(Transformer2.0)』が合わさると究極でしょう。 関連の自分の記事 ai-de-seikei.hatenablog.com ai-de-seikei.hatenablog.com ai-de-seikei.hatenablog.com
記憶があると何が起こる。。。。。『Titans: Learning to Memorize at Test Time』 第1段階 正しい、正しくないの判断ができるようになるのではないか。 記憶があると、記憶の整合性をとることができるので、それで、矛盾に気づき、正しい、正しくないの判断がで…
Titans: Learning to Memorize at Test Time https://arxiv.org/pdf/2501.00663 概要 Over more than a decade there has been an extensive research effort of how effectively utilize recurrent models and attentions. While recurrent models aim to c…