Soutenance de thèse : Luca VEYRIN-FORRER

Explaining machine learning models on graphs by identifying hidden structures built by GNNs

Doctorant : Luca VEYRIN-FORRER

Laboratoire INSA : LIRIS

Ecole doctorale : ED512 Infomaths

La dernière décennie a vu une énorme croissance dans le développement de techniques basées sur les réseaux de neurones profonds pour les graphes. Les réseaux de neurones sur graphes (GNNs) se sont avérés les plus efficaces pour de nombreux problèmes d'apprentissage automatique de graphes tels que les méthodes de noyaux. Cependant, le fonctionnement interne des modèles GNN reste opaque, ce qui constitue un obstacle majeur à leur déploiement, soulevant des questions d'acceptabilité sociale et de fiabilité, limites qui peuvent être surmontées par l'explication du fonctionnement interne de tels modèles. Dans cette thèse, nous étudions le problème de l'explicabilité des GNNs. Notre contribution principale, INSIDE, vise à extraire les règles d'activation dans les couches cachées du modèle pour comprendre quels descripteurs et caractéristiques de graphes ont été automatiquement extraits des graphes. Le défi consiste à fournir un petit ensemble de règles qui couvrent tous les graphes d'entrée. Nous proposons un domaine de motifs subjectif pour résoudre cette tâche. Nous proposons l'algorithme INSIDE qui est efficace pour énumérer les règles d'activation dans chaque couche cachée.  Les règles d'activation peuvent ensuite être utilisées pour expliquer les décisions du GNN. l'étude expérimentale montre des performances très compétitives par rapport aux audres méthodes de l'état de l'art. Cependant, les règles d'activation ne sont pas interprétables. Nous proposons d'interpréter ces règles en identifiant un graphe entièrement plongé dans le sous-espace associé à chaque règle. La méthode DISCERN que nous avons mise mise au point est basée sur une recherche arborescente de type Monte Carlo dirigée par une mesure de proximité entre le plongement du graphe et la représentation interne de la règle. Les graphes ainsi obtenus sont réalistes et pleinement compréhensibles par l'utilisateur final.