Quoi de neuf dans le carnet ?
Retrouvez une explication, un guide pratique ou une expérience récemment révisés. Les textes conservent leur date de publication initiale dans une rubrique séparée.
Parcourir les textesNotes révisées
La date indique une révision, pas une vérification indépendante de chaque affirmation. Cette liste mène aux articles actuels, sans détailler chaque modification.
Mémoire et recherche d'information pour les agents
Choisir ce qu'un assistant IA doit conserver et retrouver, sans confondre notes, résultats de recherche et autorité.
Contrats d’outils pour les agents d’IA
Concevoir des outils dont les entrées, l’autorité, les effets de bord, les échecs et les preuves restent lisibles pour les modèles et les opérateurs.
Découpage des données et fuite
Bloquer les fuites de cible, de groupe, temporelles et de prétraitement en définissant l'instant de prédiction, les entités et des pipelines réservés à l'entraînement.
Évaluer un modèle sous dérive de distribution
Partir de la distribution de déploiement, des splits, des métriques, des seuils et de l’incertitude plutôt que de traiter un score de test comme une capacité universelle.
Vocabulaire de travail en science des données
Un vocabulaire concis pour parler des jeux de données, des choix de modélisation, de l’évaluation et de la reproductibilité sans jargon propre à un produit.
Activations et réseaux feed-forward à portes
Distinguer ReLU, GELU, SiLU/Swish et les variantes GLU, puis sélectionner les non-linéarités via des expériences contrôlées sur réseaux modernes.
Variantes de l’attention et compression du cache KV
Comment MHA, GQA, MLA, la quantification du cache et les méthodes de sélection de jetons arbitrent entre mémoire, complexité d’implémentation et risque sur la qualité.
Mécanisme d'attention
Comprendre l'adressage par le contenu, Q/K/V, les masques, les variantes multi-têtes, les implémentations efficaces et les limites d'interprétation à travers un exemple numérique.
Réseaux de neurones convolutifs
Biais inductif de la convolution, canaux, padding, pas, pooling et différence entre équivariance et invariance aux translations.
Régression linéaire
Le modèle de prédiction linéaire, l’objectif d’erreur quadratique, les méthodes de résolution et les hypothèses qui déterminent le sens de ses coefficients.
Perceptron multicouche
Comprendre la capacité du MLP, la rétropropagation, les échecs d'optimisation et le biais inductif à travers les dimensions tensorielles et une construction du XOR.
Réseaux de neurones récurrents
Comprendre la compression d'état récurrent, la rétropropagation à travers le temps, les portes LSTM et la frontière avec les modèles d'espace d'états séquentiels modernes.