Soutenance de thèse : Clément HENIN

Expliquer et justifier les systèmes de décisions algorithmiques

Doctorant : Clément HENIN

Laboratoire INSA : CITI
Ecole doctorale : ED512 : Informatique et mathématiques de Lyon

Dans un contexte favorable à la rationalisation des décisions par des données et des règles chiffrées, le développement récent des technologies numériques a accéléré l’adoption des systèmes de décisions fondés sur un traitement algorithmique. De tels systèmes sont déjà présents dans de nombreux domaines et leur utilisation devrait encore s’accroître. Pour certains types d’applications, l’opacité des systèmes peut être un frein, voire un obstacle rédhibitoire, à leur utilisation. Les explications d’algorithmes permettent d’atténuer ces obstacles, mais les méthodes existantes ne sont pas pleinement adaptées aux enjeux. En particulier, nous soutenons l’idée que les explications d’algorithmes doivent être adaptées à leurs destinataires, y compris les profanes en IA, et répondre aux multiples enjeux posés par les systèmes de décisions algorithmiques. Dans cette thèse, nous nous intéressons en particulier à la production d’explications en « boîte noire », c’est-à-dire sans accès au code du système de décision. L’avantage de cette démarche est de fournir des résultats qui peuvent s’appliquer à de nombreux systèmes, indépendamment de leur mode de fonctionnement. Notre première contribution est un système d’explications interactif, permettant à l’utilisateur de contrôler les propriétés de l’explication qui lui est fournie afin d’obtenir la plus adaptée à sa situation. La deuxième contribution propose une approche novatrice pour contester et justifier les résultats d’un algorithme. Ces approches théoriques ont donné lieu au développement de deux outils : IBEX et Algocate. Ces résultats théoriques sont confrontés au terrain au travers d’études utilisateurs, dont un travail mené sur l’algorithme du score cœur utilisé pour l’attribution des greffons cardiaques. Ce dernier combine des éléments sociologiques traitant notamment de l’appropriation par les acteurs de ce système de décision et le développement d’un outil adapté aux spécificités de ce système.