Modèles génératifs
La modélisation générative consiste à faire apprendre à un système une distribution de données de manière suffisamment fidèle pour produire ou reconstruire des exemples, ou leur attribuer une vraisemblance. Cette branche couvre actuellement deux familles complémentaires :
- Les autoencodeurs variationnels apprennent un espace latent structuré à l’aide d’un encodeur, d’un décodeur et d’un objectif régularisé.
- Les modèles de diffusion apprennent à inverser un processus d’ajout progressif de bruit.
Le périmètre est celui des VAE à variables latentes continues et des DDPM gaussiens discrets. Les modèles autorégressifs factorisent une loi jointe en prédictions conditionnelles ; les flots normalisants utilisent des transformations inversibles avec changements de densité calculables ; les GAN apprennent par un jeu générateur–discriminateur. Ces familles ne sont pas traitées dans les deux notes ci-dessus. Un VAE génère par tirage latent et décodage, tandis qu’un DDPM exige normalement plusieurs évaluations du débruiteur. Ni une bonne reconstruction ni une faible perte ne suffisent à établir la diversité et l’utilité des échantillons.
Stanford CS236 propose un parcours plus large. Les évolutions rapides des modèles et des API appartiennent à la section Veille plutôt qu’à cette branche conceptuelle.