Optimisation

En apprentissage automatique et en modélisation de données, les problèmes d’optimisation sont centraux. Qu’il s’agisse de montrer l’existence ou l’unicité, de maximums et de maximums, ou encore de trouver une approximation d’un extremum, l’optimisation est un pan des mathématiques qui est central dans le monde de la data.

Pourquoi est-ce central ?

Parce que, la plupart du temps, l’apprentissage automatique se fait par la réalisation d’un objectif qui est formalisé sous la forme d’une fonction de perte (ou une fonction de coût) que l’on cherche à minimiser.

Par exemple, estimer un maximum de vraisemblance revient à minimiser la log-vraisemblance négative.

L’optimisation est essentiellement de l’analyse, faisant intervenir beaucoup de convexité et de calcul différentiel, dans le cadre du machine learning.

Convexité