Lire « Attention Is All You Need » : l’article original du Transformer
Lecture section par section de Vaswani et al. (2017) – le problème du parallélisme et des dépendances lointaines, l’attention par produit scalaire mis à l’échelle et multi-têtes, l’encodage positionnel, l’entraînement et les résultats des tableaux 1 à 4.