Aller au contenu principal

Données et évaluation

L’évaluation part de la décision que le résultat doit soutenir. Provenance des données, instant de prédiction et coût des erreurs déterminent partitions et métriques avant le choix du modèle.

Examiner l’adéquation des données et leur découpage conçu pour éviter les fuites, puis le changement de distribution. La calibration relie probabilités, seuils et abstention. Rejeu des tâches locales et évaluation recherche/génération appliquent ces idées aux systèmes ; la note sur les preuves précise la portée des comparaisons.

Ordre de lecture​

ÉtapeArticleQuestion traitée
1Jeux de données : provenance, fuite et évaluationUne carte reliant les processus générateurs de données et la provenance aux découpages résistants aux fuites, à l'évaluation sous décalage de distribution et aux sources publiques de référence.
2Découpage des données et fuiteBloquer les fuites de cible, de groupe, temporelles et de prétraitement en définissant l'instant de prédiction, les entités et des pipelines réservés à l'entraînement.
3Évaluer un modèle sous dérive de distributionPartir de la distribution de déploiement, des splits, des métriques, des seuils et de l’incertitude plutôt que de traiter un score de test comme une capacité universelle.
4Calibration des probabilités, seuils de décision et abstentionSéparer exactitude, fiabilité des probabilités et intérêt d’une action avec des données de calibration et d’évaluation distinctes.
5Évaluer les modèles locaux et les tâches d’agentsUn protocole reproductible pour vérifier si une configuration locale précise atteint le seuil exigé par un workflow réel.
6Évaluer la recherche et la génération : des preuves aux réponses correctesMesurer séparément recherche des preuves, classement, fidélité et qualité des réponses pour localiser le problème d’un système RAG.
7Juger les preuves dans les expériences d’IASpécifications, discours fournisseur, benchmarks, observations et recommandations ne prouvent pas la même chose ; une note doit dire ce que chaque source soutient réellement.

Mettre la lecture en pratique​

Séparer entraînement, sélection, calibration et test final. Accompagner les scores de leur population et conditions d’utilisation, et conserver les échecs qui modifieraient la décision de déploiement.

Revenir aux parcours IA pour choisir un thème voisin.

Explorer les liensOuvrir le réseau