Réseaux neuronaux et modèles génératifs

L’architecture détermine la représentation et la combinaison de l’information. L’objectif d’entraînement définit le comportement récompensé, et le décodage produit les sorties. Ces choix se complètent sans se confondre.

Partir des MLP et des activations, puis explorer convolution et récurrence. Pour le texte : tokenisation, attention, Transformers, familles encodeur/décodeur, puis génération. VAE et diffusion offrent d’autres voies ; multimodalité et MoE étendent représentations et calcul.

Ordre de lecture

Étape	Article	Question traitée
1	Perceptron multicouche	Comprendre la capacité du MLP, la rétropropagation, les échecs d'optimisation et le biais inductif à travers les dimensions tensorielles et une construction du XOR.
2	Activations et réseaux feed-forward à portes	Distinguer ReLU, GELU, SiLU/Swish et les variantes GLU, puis sélectionner les non-linéarités via des expériences contrôlées sur réseaux modernes.
3	Réseaux de neurones convolutifs	Biais inductif de la convolution, canaux, padding, pas, pooling et différence entre équivariance et invariance aux translations.
4	Réseaux de neurones récurrents	Comprendre la compression d'état récurrent, la rétropropagation à travers le temps, les portes LSTM et la frontière avec les modèles d'espace d'états séquentiels modernes.
5	Tokenisation et représentations du texte dans un modèle	Suivre le texte jusqu’aux identifiants, plongements et états contextuels, en distinguant découpage, position, remplissage et vecteurs de recherche.
6	Mécanisme d'attention	Comprendre l'adressage par le contenu, Q/K/V, les masques, les variantes multi-têtes, les implémentations efficaces et les limites d'interprétation à travers un exemple numérique.
7	Transformers : architecture originale et blocs modernes	Distinguer l’encodeur–décodeur de 2017 des blocs courants en Pre-Norm, RMSNorm, RoPE, GQA et SwiGLU, ainsi que leurs coûts d’entraînement et d’inférence.
8	Encodeur, décodeur et encodeur–décodeur : circulation de l’information	Distinguer les familles par leur contexte visible, objectif d’apprentissage et tête de sortie, des classifieurs BERT aux générateurs et aux modèles de conversion de séquences.
9	Génération autorégressive et décodage	Passer des distributions du prochain token à une réponse complète : température, top-k, top-p, recherche, arrêt et sortie structurée.
10	Autoencodeurs variationnels	Modèles génératifs à variables latentes entraînés par inférence variationnelle amortie, ELBO et gradients reparamétrés.
11	Modèles de diffusion	Bruitage direct, transitions inverses apprises, apprentissage par prédiction du bruit, échantillonnage itératif, conditionnement et compromis de calcul.
12	Modèles multimodaux : alignement, fusion et questions visuelles	Utiliser la recherche image–texte et la réponse aux questions visuelles pour distinguer les objectifs, les patches, les connecteurs de modalités, les pertes d’information et l’évaluation.
13	Mélange d’experts : calcul parcimonieux, routage et coût de déploiement	Suivre un token dans le routage MoE pour distinguer paramètres totaux, paramètres actifs, mémoire, vitesse, équilibrage et communication.

Mettre la lecture en pratique

Suivre formes des tenseurs et accès à l’information dans un exemple. Pour une nouvelle architecture, demander quelles positions peuvent porter attention à quelles autres, quels paramètres sont partagés et ce que renvoie réellement la passe avant. Les coûts d’entraînement et d’inférence ont leurs propres thèmes.

Revenir aux parcours IA pour choisir un thème voisin.

Mes lectures · Les notes ouvertes sont mémorisées dans ce navigateur.