L’algorithme : cette formule arbitraire, miroir de l’intention humaine

Les algorithmes sont sûrement au 21^e siècle ce qu’étaient les moteurs à explosion à l’ère préindustrielle. De plus en plus présents et de plus en plus élaborés, ils sont pourtant mal compris par le public non-averti. À l’occasion d’une conférence organisée par le Centre d'Innovations en Télécommunications et Intégration de Services¹ (CITI) le 10 octobre dernier, Antoine Boutet, enseignant-chercheur au département informatique, explique les problématiques posées par les « blacks boxes », ces algorithmes au centre de nos vies. Immersion dans un monde opaque, où le citoyen réclame la transparence.  

Algorithme, nm (lat. algorithmus) : ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur.
Une vieille recette de mathématiques qui s’impose dans tous les domaines : finances, orientation professionnelle ou même vie amoureuse. Partout, ils conseillent un film à regarder, un nouvel emploi ou même, un nouvel ami.

Pour comprendre le processus, il faut en revenir aux faits. Je suis confortablement installé dans mon canapé et je m’apprête à visionner un film au moyen d’une plateforme de vidéo à la demande. Ma sélection génère une donnée qui correspond à mes goûts cinématographiques, par exemple, un genre en particulier, une thématique ou une actrice que j’apprécie voir jouer. À la fin de mon visionnage, l’application, à l’aide d’un algorithme, me suggérera d’autres films à regarder en fonction des données récoltées lors que mes choix précédents. Mais selon quels critères sont sélectionnés les films qui me sont proposés ? Quelqu’un a-t-il décidé d’établir ces règles ? 
Avant l’automatisation et s’il avait été question de livres, ma bibliothécaire m’aurait conseillé tel ou tel ouvrage, mais j’aurais su, d’une façon inconsciente, que ses propositions n’auraient été ni exhaustives ni totalement objectives, car elles étaient le résultat de sa propre expérience de lecture et de mes goûts littéraires. Or, lorsque je suis en face de mon ordinateur ou de ma télévision connectée, je ne suis pas nécessairement en mesure de comprendre naturellement que l’algorithme qui fait ces propositions, a été implémenté par… Un humain. 

« L’algorithme n’est pas un outil neutre et peut soulever des problèmes d’équité. Pour créer un algorithme, il faut l’intervention d’un développeur. En fonction de ses croyances personnelles, ses schémas cognitifs ou émotionnels du développeur, l’apprentissage de l’algorithme peut comporter des discriminations. Que ce soit inconsciemment, avec des erreurs d’implémentation ou consciemment avec l’introduction de biais fixés par son entreprise, l’algorithme reproduit les biais dans le résultat de l’algorithme », explique Antoine Boutet. Autre facteur de biais : l’observation des données passées pour exploiter des corrélations entre les critères de goûts et de sélection de l’utilisateur. L’une des conséquences de ce biais est l’apparition d’une bulle informationnelle. « Un même algorithme peut enfermer l’utilisateur dans un même rouage de pensées. En fonction de ses choix et des règles fixées par l’algorithme, il retombe souvent sur les mêmes informations ou les mêmes types de films par exemple », complète l’enseignant-chercheur.

L’outil algorithmique soulève donc des questions qui dépassent la discipline informatique, et ici, l’enjeu est bien éthique. « Au-delà du fait que les données personnelles peuvent contrôler le comportement de ces algorithmes, données qui sont maintenant régies par le RGPD, nous sommes face à un outil qui nous décrit, nous et le monde qui nous entoure. L’implémentation d’algorithmes répond à des intentions, individuelles ou collectives. La réflexion sous-jacente est surtout celle de la relation de l’homme à la technique : l’algorithme n’est pas un outil qui fonctionne seul, c’est un miroir de l’intention du développeur. Et aujourd’hui, sous couvert d’une technicité parfois inexplicable au grand public, certains en profitent, ne laissant aucune lisibilité au citoyen sur les algorithmes qui irrigue sa vie quotidienne », poursuit-il.

Pour le choix d’un film ou d’un livre, la question du biais de l’algorithme peut paraître anecdotique. Mais lorsqu’il s’agit d’accorder un prêt bancaire, proposer un futur partenaire de vie à travers une application de rencontre ou même scorer les patients en liste d’attente pour un don d’organe, les enjeux soulevés par les biais des algorithmes relèvent-ils encore de l’anecdote ?
Alors comment arbitrer ? Comment attribuer la liberté de concevoir un algorithme et quelle responsabilité légale imposer ? « Il est très difficile de comprendre le comportement d’un algorithme si l’on peut uniquement analyser les résultats qu’il fournit en fonction de nos interactions avec lui. Et c’est justement cette difficulté technique qui freine l’attribution des responsabilités. La régulation des pratiques est indispensable », prévient Antoine. Si l’Union Européenne s’est récemment lancée sur le sujet du droit à l’explication, l’enseignant-chercheur affirme que la sensibilisation des utilisateurs est une première étape primordiale pour avancer vers une société numérique plus transparente.
« C’est pour cela que nous avons organisé cet atelier qui a réuni informaticiens, juristes, sociologues et membres de comités éthiques. C’est une bonne façon de lancer l’alerte et de démêler les enjeux qui interrogent la société toute entière. La prochaine étape sera d’aligner les intérêts communs, pour aller vers des règles éthiques viables », conclut Antoine Boutet

¹EA 3720 – Tutelles INSA Lyon et INRIA