論文『Attention in natural language processing』は、Transformerとかを理解するためには、もっと、読まれてもいいのでは？

論文『Attention in natural language processing』

Galassi, Andrea, Marco Lippi, and Paolo Torroni. "Attention in natural language processing." IEEE transactions on neural networks and learning systems 32.10 (2020): 4291-4308.

https://arxiv.org/ftp/arxiv/papers/1902/1902.02181.pdf

論文から図を引用

↑　いろいろな構成を説明しようとしている。

論文から表を引用

↑　いろいろな構成を説明しようとしている。
ここでの[36]が、Transformerです。

参考

この記事をみて、この論文を知りました！

qiita.com

コメント

コメントなどあれば、お願いします。