Fondamentaux du calcul infinitésimal
Cette séquence s'articule autour d'une idée : décrire d'abord le changement localement, puis l'accumuler globalement.
- Les limites établissent le comportement local et la continuité.
- Les dérivées mesurent le changement instantané.
- Les intégrales accumulent des quantités et renouent avec les dérivées.
- Les gradients et la descente de gradient étendent la notion de changement à plusieurs variables.
- L'optimisation transforme les dérivées en décisions.
- L'optimisation dans les réseaux de neurones applique ces outils aux systèmes d'apprentissage.
Avant de commencer
Il faut savoir transformer des équations, lire domaines et graphes de fonctions, et utiliser puissances, logarithmes et fonctions trigonométriques (en radians). Commencez par une variable ; les vecteurs et l'algèbre linéaire deviennent utiles pour les gradients et les nombreux paramètres.
Un calcul qui relie les notions
Soit une position mètres, où est en secondes. Le taux d'accroissement vaut
En faisant tendre vers zéro, on obtient la vitesse mètres par seconde. Entre 1 et 3 secondes, intégrer cette vitesse donne le déplacement mètres. C'est un déplacement signé, pas nécessairement la distance totale ; celle-ci intégrerait si le sens changeait.
Le théorème fondamental relie ces opérations : si est continue sur , alors a pour dérivée à l'intérieur, et toute primitive donne . La continuité est ici une condition suffisante ; cela n'affirme pas que toute fonction est dérivable ou intégrable.
En optimisation, une dérivée nulle ne fournit qu'un candidat : vérifie sans extremum en zéro. Sur un intervalle fermé, examinez aussi les extrémités et les points où la dérivée n'existe pas.