Réseau bayésien

Définition :

Un réseau bayésien $B$ est un graphe orienté acyclique qui représente une distribution jointe de probabilités sur un ensemble de variables aléatoires $V.$

Le réseau est défini par une paire $B = (G, \Theta)$ .

$G$ est un graphe acyclique orienté, dont les sommets sont les éléments de $V$ , i.e. des variables aléatoires $X_1, X_2, ..., X_n$ , et les arêtes représentent les dépendances entre les variables aléatoires.

De plus, pour tout sommet $X_i$ de $G$ , $X_i$ est indépendant de ses non-descendants sachant ses parents.

$\Theta$ est l’ensemble des paramètres du réseau. Ses éléments sont de la forme $\theta = \theta_{x_i|\pi_i} = \mathbb{P}(x_i|\pi_i)$ pour toute réalisation $x_i$ de $X_i$ , avec $\pi_i$ les parents de $X_i$ .

Compléments :

On a appelé l’ensemble des variables aléatoires $V$ car ce sont les sommets du réseau et « sommet » se dit «vertex» en anglais.
Le graphe est acyclique et orienté car chaque variable peut avoir un effet sur d’autres variables (qui seront alors des descendants de cette variable), mais ne peut pas subir d’effet de la part de ses descendants.
- Par exemple, prenons trois variables aléatoires qui quantifient (1) à quel point le Soleil brille, (2) la température qu’il fait, et (3) mon envie de manger une glace.
- Alors, la première variable porte un effet sur la deuxième: si le Soleil brille plus, il est probable qu’il fasse plus chaud.
- De même, la deuxième variable porte un effet sur la troisième: si la température est plus élevée, il est d’autant plus probable que j’aie envie de manger une glace.
- Mais (3) n’a pas d’effet ni sur (1), ni sur (2). Car mon envie d’avoir une glace n’a pas d’influence sur la météo.
- Ainsi, graphiquement, on a juste une flèche qui va de (1) vers (2) et une flèche qui va de (2) vers (3).
- Le graphe est donc acyclique orienté pour traduire ces relations de causalité.
$B$ définit la distribution jointe de probabilité suivante:
$\mathbb{P}(X_1, X_2, ...., X_n) = \prod\limits_{i=1}^n \mathbb{P}(X_i|\pi_i) = \prod\limits_{i=1}^n \theta_{X_i|\pi_i}$
Si $X_i$ n’a pas de parents, on dit que sa distribution de probabilité est non-conditionnelle.
Si $X_i$ a des parents, on dit que sa distribution de probabilité est conditionnelle.
Si $X_i$ n’est pas observée, alors on dit que le nœud associé est un nœud latent.
Un article en anglais pour aller plus loin