Une technique simple et efficace pour faire de l’adaptation de domaine (domain adaptation) est la méthode CORAL (CORrelation ALignment).
Idée :
CORAL cherche à aligner les moments d’ordre deux des features d’un domaine cible (la target) sur ceux d’un domaine source (la source).
Concrètement :
La méthode consiste à calculer une fonction de perte (loss) à partir des moments d’ordre deux des features de la target et de la source.
Cette loss s’écrit sous la forme suivante :
où est la norme de Frobenius, et
et
sont respectivement les matrices de covariance de la source et de la target, calculées empiriquement sur un batch.
Cette loss est rajoutée à la loss principale, lors de la backpropagation.

Laisser un commentaire