Transformer - Attention Is All You Need の概要が理解できるリンク
で教えていただいた [1706.03762] Attention Is All You Need。最初は論文そのものを読もうと思ったが挫折したので。概要を理解できるリンク集。Attention Is All You Need https://t.co/eUZ17XVu8L で提案された Transformer 以降は self-attention が主流な印象です。先日おおきな話題になった BERT も Transformer 系です。
— agatan (@agatan_) February 12, 2019
- 論文解説 Attention Is All You Need (Transformer) - ディープラーニングブログ
- 論文読み "Attention Is All You Need" - Qiita
- Attention Is All You Need · Issue #329 · arXivTimes/arXivTimes
- Google AI Blog: Transformer: A Novel Neural Network Architecture for Language Understanding
- The Annotated Transformer
- The Illustrated Transformer – Jay Alammar – Visualizing machine learning one concept at a time 英語に抵抗なければおすすめ
- [DL輪読会]Attention Is All You Need