Un document tagué avec "quantization"

Comprendre l’approximation à faible précision, distinguer poids, activations et cache KV, puis estimer le coût réel du déploiement.