🕸️ Réseaux de Markov

Un champ aléatoire de Markov (MRF) est un ensemble de variables aléatoires possédant la propriété de Markov par rapport à un graphe non orienté : chaque variable est conditionnellement indépendante de toutes les autres variables étant donné ses voisins dans le graphe. La distribution conjointe est exprimée comme un produit de fonctions de potentiel (facteurs) sur les cliques du graphe.

Les propriétés clés des MRF incluent la propriété de Markov globale (la séparation dans le graphe implique l'indépendance conditionnelle), la propriété de Markov locale (une variable est indépendante de ses non-voisins étant donné ses voisins) et la propriété de Markov par paires. La recherche sur l'apprentissage et l'inférence dans les MRF a été un sujet central dans les modèles graphiques probabilistes.

Les réseaux de Markov et les réseaux bayésiens sont deux cadres complémentaires pour les modèles graphiques probabilistes. Les réseaux bayésiens utilisent des graphes orientés acycliques pour représenter l'indépendance conditionnelle et ont une interprétation causale naturelle. Les réseaux de Markov utilisent des graphes non orientés et sont plus naturels pour représenter des dépendances symétriques telles que celles trouvées dans les modèles d'images, les modèles d'Ising et les statistiques spatiales. Recherche sur les cas où chaque représentation est la plus appropriée et sur les méthodes de conversion entre les deux formalismes.

Les machines de Boltzmann sont un type de réseau de Markov où les fonctions de potentiel ont une forme basée sur l'énergie. La distribution conjointe des variables visibles (observées) et cachées (latentes) est définie via une fonction d'énergie, et le modèle est entraîné en maximisant la vraisemblance des données observées sous le modèle. Les machines de Boltzmann restreintes (RBM) sont un cas particulier avec un graphe biparti connectant les unités visibles et cachées, permettant un apprentissage efficace via la divergence contrastive.

Recherche sur les RBM structurelles qui vont au-delà du motif de connectivité biparti standard. En ajoutant une structure au sein des couches visibles et/ou cachées, les RBM structurelles peuvent capturer des motifs de dépendance plus complexes dans les données. Applications au débruitage d'images (exploitation des corrélations spatiales locales) et à la classification (exploitation de la structure des étiquettes).

Les machines de Boltzmann profondes (DBM) empilent plusieurs couches de RBM pour créer des modèles génératifs hiérarchiques profonds. Recherche sur les méthodes d'entraînement pour les DBM, incluant le pré-entraînement par couche et l'ajustement fin conjoint, et sur la relation entre les DBM et les réseaux de croyance profonds (qui sont des modèles hybrides orientés/non orientés).

Développement d'algorithmes d'estimation de distribution (EDA) qui utilisent des réseaux de Markov comme modèle probabiliste. Les EDA à réseaux de Markov apprennent un modèle graphique non orienté à partir de la population sélectionnée et échantillonnent de nouvelles solutions candidates à partir de ce modèle. La nature symétrique des réseaux de Markov les rend particulièrement appropriés pour les problèmes où les dépendances entre les variables sont symétriques.

Recherche sur les algorithmes d'apprentissage de la structure des réseaux de Markov à partir de données dans la boucle EDA. Les algorithmes d'apprentissage de structure pour les réseaux de Markov doivent équilibrer la qualité de la structure apprise (la fidélité avec laquelle elle représente les dépendances dans les données) par rapport au coût computationnel (l'apprentissage de structure de réseau de Markov est généralement plus exigeant en ressources que celui des réseaux bayésiens).

Développement d'algorithmes basés sur les scores pour l'apprentissage de la structure des réseaux de Markov à partir de données. Ces algorithmes recherchent parmi les ensembles d'arêtes possibles pour trouver la structure qui maximise un score de log-vraisemblance pénalisé. Les défis clés incluent l'intraitabilité de la fonction de partition (qui empêche le calcul direct de la vraisemblance) et la nature combinatoire de l'espace de recherche.

Les méthodes basées sur les contraintes pour l'apprentissage de la structure des réseaux de Markov utilisent des tests statistiques d'indépendance conditionnelle pour identifier les arêtes du réseau de Markov. Recherche sur la manière dont le choix du test d'indépendance conditionnelle, la taille de l'échantillon et le seuil de signification affectent la qualité de la structure apprise. Développement d'algorithmes passant à l'échelle pour des problèmes de grande dimension.

Application des réseaux de Markov à la modélisation et au débruitage d'images. Les modèles d'images basés sur les champs aléatoires de Markov exploitent les corrélations spatiales locales dans les images, chaque pixel dépendant principalement de ses voisins spatiaux. Recherche sur la manière d'apprendre des a priori d'image efficaces à partir de données et de les utiliser pour des tâches de débruitage, de segmentation et de super-résolution.

Application des réseaux de Markov pour modéliser la connectivité fonctionnelle et structurelle du cerveau. En apprenant un réseau de Markov à partir de données de neuro-imagerie (IRMf, MEG, EEG), il est possible d'identifier quelles régions cérébrales interagissent entre elles et d'étudier comment les motifs de connectivité changent à travers différents états cognitifs ou populations.

• Santana R (2003). A Markov network based factorized distribution algorithm for optimization. ECML 2003.
• Santana R (2005). Estimation of distribution algorithms with Kikuchi approximations. Evolutionary Computation.
• Santana R (2012). MN-EDA and the Use of Clique-Based Factorisations in EDAs. Markov Networks in Evolutionary Computation. Springer.
• Shakya S and Santana R (2008). An EDA based on local Markov property and Gibbs sampling. GECCO 2008.
• Shakya S and Santana R (2012). A Review of Estimation of Distribution Algorithms and Markov Networks. Markov Networks in Evolutionary Computation. Springer.
• Shakya S and Santana R (2012). MOA - Markovian Optimisation Algorithm. Markov Networks in Evolutionary Computation. Springer.
• Santana R and Mendiburu A (2013). Model-based template-recombination in Markov network estimation of distribution algorithms for problems with discrete representation. GECCO 2013.
• Santana R and Shakya S (2012). Probabilistic Graphical Models and Markov Networks. Markov Networks in Evolutionary Computation. Springer.
• Santana R, Karshenas H, Bielza C and Larrañaga P (2011). Regularized k-order Markov models in EDAs. GECCO 2011.
• Santana R, Mendiburu A and Lozano JA (2012). New methods for generating populations in Markov network based EDAs: Decimation strategies and model swapping. CEC 2012.
• Santana R, Mendiburu A and Lozano JA (2013). Message passing methods for estimation of distribution algorithms based on Markov networks. CEC 2013.
• Mendiburu A, Santana R and Lozano JA (2007). A parallel framework for loopy belief propagation. GECCO 2007.
• Mendiburu A, Santana R and Lozano JA (2007). Introducing belief propagation in estimation of distribution algorithms: A parallel framework. Technical Report.
• Mendiburu A, Santana R and Lozano JA (2012). Fast fitness improvements in Estimation of Distribution Algorithms using belief propagation. CEC 2012.
• Hoens TR, Mendiburu A, Santana R and Lozano JA (2007). Optimization by max-propagation using Kikuchi approximations. IJCAI 2007.
• Santana R, Larrañaga P and Lozano JA (2008). An empirical analysis of loopy belief propagation in three topologies: Grids, small-world networks and random graphs. CEC 2008.
• Santana R, Larrañaga P and Lozano JA (2006). Mixtures of Kikuchi approximations. ECML 2006.
• Santana R (2003). Estimation of Distribution Algorithms with Kikuchi approximations: Part I. Research Report.
• Santana R (2003). Estimation of Distribution Algorithms with Kikuchi approximations: Part II. Research Report.
• Santana R (2003). Exact Gibbs sampling in optimization. Research Report.