Déployer sur un appareil : poids, mémoire et contexte
Une méthode centrée sur la mémoire pour décider quelle configuration de modèle local tient et reste utile sur un GPU grand public ou un Mac Apple Silicon.
Une méthode centrée sur la mémoire pour décider quelle configuration de modèle local tient et reste utile sur un GPU grand public ou un Mac Apple Silicon.
Candidats locaux pour le code classés selon la mémoire de la carte graphique et la mémoire unifiée Apple Silicon, vérifiés sur les fiches officielles le 29 octobre 2026.
Choisir la gamme selon la tâche, compter ce que font gagner le cache et le batch, vérifier les réglages de données par défaut de chaque fournisseur, et garder une courte liste d’API gratuites pour les prototypes.