Soutenance de thèse : Jan AALMOES

« IA pour des services moraux : concilier équité et confidentialité »

Doctorant : Jan AALMOES

Laboratoire : CITI

École doctorale : ED512 : InfoMaths (Informatique et Mathématiques de Lyon)

L’intelligence artificielle (IA) est de plus en plus présente dans de nombreux domaines comme la santé, les médias ou les ressources humaines.
Ces technologies induisent des risques pour la confidentialité des données personnelles des utilisateurs et peuvent introduire des biais discriminatoires rendant les décisions automatiques non équitables.
Cette inéquité est étudiée à deux niveaux dans la littérature scientifique.
L'équité individuelle cherche à s'assurer que les IA se comportent de la même manière à toutes choses égales, excepté un attribut sensible comme la couleur de peau.
L'équité de groupe, quant à elle, cherche à comprendre les différences de traitement par les IA entre les minorités.

Ma principale contribution vise à comprendre le lien entre l’équité de groupe et la confidentialité des attributs sensibles des utilisateurs.
Notre approche théorique nous a amené à démontrer que, sous un certain aspect, la confidentialité et l’équité pouvaient travailler de concert pour créer des IA plus fiables.
Nous avons validé ces résultats en suivant une approche expérimentale en étudiant des bases de données et des algorithmes d'apprentissage standards.

Pour ce faire nous commençons par présenter un état de l'art qui permet de mieux comprendre ce qu’est l’IA et quels sont les enjeux et les régulations.
Nous verrons ainsi que l’équité et la confidentialité sont des points capitaux qu’il faut prendre en compte pour un développement moral de l’IA.
Ensuite nous présenterons un nouvel algorithme d’apprentissage automatique que nous utiliserons pour construire une attaque d'inférence d'attributs sensibles.
Enfin, les données synthétiques sont utilisées pour contourner les obligations légales de protection des données personnelles.
Nous explorerons donc l’impact de l’utilisation des données synthétiques pour l'entraînement des IA sur l'inférence d'attributs sensibles.