Building Autonomous Agents with Hybrid Navigation Policies

Doctorant : Assem SADEK

Laboratoire INSA : LIRIS

Ecole doctorale : ED512 Informatique Et Mathématiques de Lyon

Les progrès récents de l'IA, et plus particulièrement de l'apprentissage automatique, permettent aux robots de s'intégrer de manière plus transparente dans nos habitudes quotidiennes. L'objectif de cette thèse est de faire un pas de plus vers le développement d'agents autonomes intelligents qui peuvent être intégrés dans notre environnement quotidien, comme les maisons, les hôpitaux, les centres commerciaux, etc. Ces agents devraient posséder la capacité de naviguer efficacement dans leur environnement pour atteindre un certain objectif, comme atteindre une certaine zone de l'environnement ou trouver un certain objet. C'est pourquoi nous examinons le large éventail de techniques existantes pour la construction d'un agent de navigation incarné. Ces techniques peuvent entièrement être apprises par des réseaux neuronaux (techniques basées sur l'apprentissage) ou elles peuvent être des techniques basées sur la géométrie qui reposent sur une modélisation explicite de l'agent et de son environnement. Dans cette thèse, nous construisons des approches hybrides qui utilisent les deux techniques afin de pouvoir fonctionner, non seulement dans une simulation, mais également dans un environnement physique réel. Il s'agit d'un objectif commun à toutes les contributions à ce travail.

Et s’il était possible, grâce à l’intelligence artificielle, de soulager les pressions opérationnelles des équipes soignantes et offrir une meilleure qualité de suivi aux patients en prédisant leurs parcours de soins ?​ C’est le sujet qui a occupé Alice Martin, désormais docteure, lors de sa thèse menée au laboratoire DISP¹. Alors que les structures de santé françaises rencontrent des difficultés structurelles, celles-ci tentent d'améliorer la prise en charge des patients notamment en cas de maladies chroniques. Pour anticiper l’évolution de la consommation des actes thérapeutiques, Alice Martin a cherché à comprendre les aspects du profil des patients à travers la donnée. 

Aujourd’hui, les structures de santé rencontrent des difficultés structurelles dans l'organisation des soins et la prise en charge de leurs patients. Quelles sont-elles ?
L’accès aux soins souffre de fractures multiples : augmentation du nombre de maladies chroniques, vieillissement de la population, fracture territoriale dans l'accès aux soins médicaux, pressions financières et recherche d’efficience à tout prix… Beaucoup de structures de santé tentent de s’adapter à ces transformations en optimisant les parcours patients, notamment grâce à la prédiction des évènements cliniques. Cela suppose de mieux comprendre les patients pour leur proposer des prises en charge adaptées à leurs besoins et à leur profil clinique. D’autre part, il y a une disponibilité croissante des données de santé et une meilleure applicabilité de l’intelligence artificielle. Près de 30 % des données stockées dans le monde sont des données de santé et l’exploitation de celles-ci peuvent aider notamment  à assurer la viabilité du système de santé français, qui n’a pas de visée de rentabilité.

Durant votre thèse, vous avez travaillé à cette prédiction des parcours patients. Comment mieux prévoir et soulager les structures dans leurs organisations ? 
Pour anticiper des évènements cliniques sur un profil de patient donné, il a fallu étudier de près beaucoup de données médico-économiques. Ces données, notamment celles issues de la facturations des hôpitaux, sont très révélatrices des parcours de soins. Elles permettent de recomposer la trajectoire suivie des patients, grâce à l’intelligence artificielle qui offre d’excellentes perspectives d’analyse, de modélisation et d’interprétation. Nous avons étudié deux cas d’application. Le premier avec les Hospices Civils de Lyon, autour des troubles neurocognitifs comme l’Alzheimer. Nous avions accès à une base de données de suivi très riche qui, croisée avec les données de l’assurance maladie, ont donné un maillage très précis. Cela nous a permis d’identifier des profils types et d’établir des liens entre le profil et des évènements qui pourraient affecter le parcours de santé. Le deuxième cas d’application concernait un hôpital où l’enjeu était de réduire la variation des besoins en soins de patients traités à domicile, lors de situation de soins palliatifs ou de polyhandicap par exemple. Malheureusement, nous n’avons pas pu donner de suite concrète aux travaux avec cet organisme de santé, mais nous aurions souhaité développer une interface d’aide à la prise de décision pour les personnels soignants. 

Des applications réelles de ce type de prédiction sont donc possibles pour les organisations de santé ? 
Bien sûr, l’usage des algorithmes pour les organisations de santé n’est pas nouveau, mais dans notre cas, une réelle application pose plusieurs questions. D’abord, il faut s’assurer de pouvoir obtenir des données de santé de qualité, pouvant varier d’un établissement ou d’un service à un autre. Ensuite, il existe toujours des biais : ces données sont-elles représentatives de la réalité ? Les biais de représentations et de réplications de nos propres stéréotypes s’appliquent aussi ici. Sur les données que j’ai traitées, il y a eu une situation assez révélatrice : à l’occasion d’un questionnaire visant à évaluer le niveau de dépendance de patients atteints de trouble neurocognitifs, une série de questions les interrogeait sur leurs habitudes à faire le ménage, la lessive ou la vaisselle. De prime abord et au regard de ces questions, les patients de sexe masculin semblaient assez dépendants, alors qu’en réalité, ces patients n’avaient jamais été habitués à ces tâches quotidiennes durant toute leur vie. Avec ces seules données, on aurait tendance à surestimer la dépendance des hommes, alors qu’en réalité, ça n’est qu’un mode de vie qui se reflète. Face à ces biais, il faut être attentif pour pouvoir y apporter des corrections. Aussi, dans notre cas, nos IA généralisent et s’adaptent assez mal à de nouveaux contextes ; difficile pour elles de prévoir des évènements comme la crise Covid par exemple. Plus loin encore se pose la question de la responsabilité juridique de l’algorithme : à partir du moment où l’on décide de son implémentation au sein d’un hôpital, qui doit porter la responsabilité des résultats ? En fait, il y a beaucoup de problématiques qui dépassent la vision académique et qui peuvent poser énormément de freins à l’adoption même si nos travaux ont ouvert beaucoup de perspectives en matière de soutien au corps médical et à la qualité de prise en charge des patients.

 

[1] Decision & Information Systems for Production systems (INSA Lyon/ Lyon 2/Lyon 1/Université Jean Monnet)

Conférencier : Benoît Carré, musicien, auteur-compositeur

Écoutez des sons et les harmonies de l'intelligence artificielle (IA), découvrez en quoi ils peuvent inspirer un musicien, bousculer ses habitudes et lui permettre de se représenter autrement dans le processus de création. En quelques exemples issus de ses expérimentations avec les prototypes qu'il a contribué à développer au sein d'une équipe de chercheurs depuis 2015, Benoit Carré vous invite à vous faire votre propre opinion sur le potentiel de l'IA dans la création.

Sur inscription

Les développements récents de l'intelligence artificielle constituent une révolution scientifique et technologique dont l’impact sur la société, l’industrie et la science ne cesse de grandir.

Conférencier : Simon Masnou, professeur à l'université Lyon1, chercheur à l'Institut Camille Jordan

En prenant des exemples issus notamment de l’analyse et du traitement des images, nous verrons lors de cette conférence quel changement de paradigme a conduit des méthodes classiques aux méthodes d’apprentissage profond à base de réseaux de neurones. Nous parlerons de la structure et de l’entraînement de ces réseaux, et des nombreuses questions pratiques et théoriques qu’ils suscitent. Nous discuterons aussi des enjeux actuels, à la fois scientifiques, techniques et sociétaux.

C’est un champignon capable de décimer des hectares de récoltes, le pire cauchemar des jardiniers et des agriculteurs. Après les pluies de printemps, le mildiou se manifeste par des taches brunes huileuses et de la moisissure blanche sur les feuilles et les fruits de ses hôtes, jusqu’à causer leur perte. Si les stratégies de lutte contre le mildiou reposent aujourd’hui principalement sur l’utilisation curative de fongicides chimiques, ces méthodes sont de plus en plus stigmatisées en raison de leur persistance dans l’environnement et de leur toxicité pour les organismes non-ciblés. La détection précoce des épidémies de mildiou au début du printemps permettrait d’en limiter l’usage.

Au sein du laboratoire BF2i¹, c’est à travers une poignée de pixels que l’équipe de Pedro Da Silva a réussi à détecter le mildiou de la vigne deux jours avant l’apparition des symptômes². Grâce à un outil d’imagerie hyperspectrale couplé d’une intelligence artificielle, les résultats obtenus ouvrent ainsi de nombreuses perspectives en matière de réduction d’usage de pesticides. 

L’apparition de la maladie : des symptômes difficiles à détecter

Le mildiou, comme bon nombre de maladies fongiques, est sournois. Ses spores, totalement invisibles, peuvent avoir contaminé un seul pied de vigne, qu’un simple épisode pluvieux est suffisant pour infecter les plants alentours. Les jours suivant l'infection, les feuilles présentent des tâches huileuses, de la moisissure blanche et un flétrissement notoire. « C’est une maladie qui se traite avec des fongicides biologiques ou de synthèse dès l’apparition des premiers symptômes, souvent sporadiques. Généralement, lorsque le viticulteur note des points faibles sur son vignoble, il doit traiter toute la parcelle pour être débarrassé de toutes les spores. Détecter cette maladie précocement permettrait de réaliser des traitements ciblés. Sur un principe de dépister – tracer – isoler, les agriculteurs pourraient anticiper les attaques et, en intervenant à petite échelle, limiter l’usage de fongicides », introduit Pedro Da Silva, enseignant-chercheur et directeur adjoint du BF2i. 

Déceler les signes de la maladie à travers l’image

Dans une des salles d’expérimentation du laboratoire, des boîtes de pétri renferment l’agent néfaste : le Plasmopara viticola. Durant neuf jours après l’inoculation, les chercheurs du BF2i observent la façon dont l’oomycète se répand sur les feuilles de Cabernet Sauvignon. « En développant un outil à façon et grâce à une technique de spectrométrie, nos études en laboratoire ont décelé la maladie deux jours avant l’apparition des symptômes. » Dans une chambre noire, la caméra hyperspectrale scrute les feuilles contaminées sur un plateau mobile. « On enregistre chaque image en trois dimensions : deux dimensions spatiales, comme pour une photographie, plus une dimension spectrale, c'est-à-dire la lumière réfléchie par la feuille. Le spectre mesuré est composé de différentes longueurs d’ondes jusqu’à 1100 nanomètres, ce qui correspond à un rayonnement infrarouge invisible à l'œil nu. Ensuite, on découpe l'image en plusieurs zones, qui sont ultérieurement classifiées par l'intelligence artificielle comme appartenant à une feuille saine ou à une feuille infectée par le mildiou. Ainsi, grâce à cet outil de détection automatique, nous sommes parvenus à localiser et à quantifier le mildiou sur les feuilles de vigne avec une précision de 99 %. Cela ouvre une belle perspective de développement de nouveaux outils d’aide à la décision pour la réduction des traitements antifongiques dans le secteur viticole », ajoute Pedro Da Silva.

 

Illustration de la distribution spatiale de la souche de mildiou INRA-Pv45 sur une feuille de vigne de 1 à 9 jours post-inoculation (jpi), détectée automatiquement par le modèle d'intelligence artificielle. Les zones positives de mildiou sont représentées en rouge. (Crédits : BF2i)

 

Une technique de laboratoire pas encore démontrée en champ 

Pour le moment, aucune expérimentation en champ agricole n’a pu être réalisée. Le responsable de l’équipe « InEn », « Insect Engineering », est prudent lorsqu’il s’agit d’envisager l’extrapolation de la technique développée au sein du laboratoire. Si l’équipe continue de consolider ce travail sur d’autres vecteurs de maladie, elle fait encore face à certaines difficultés pour rendre applicable ce procédé de détection à grande échelle. « Notre outil fonctionne en environnement contrôlé, mais n’est, pour le moment, pas déclinable en champ pour des questions de dimensionnement. La caméra hyperspectrale produit des images très lourdes et il faudrait adapter la méthodologie actuelle pour traiter ces volumes de données considérables en temps réel, d’autant plus que, dans le cas du mildiou, il faut aller très vite entre le moment de la détection et le traitement. Cependant, les résultats que nous avons obtenus ouvrent le champ des possibles en matière de protection des cultures viticoles », conclut Pedro Da Silva.

 

-------
[1] Biologie fonctionnelle, insectes et interactions (INSA Lyon/INRAE/UdL)
[2] Lacotte, V.; Peignier, S.; Raynal, M.; Demeaux, I.; Delmotte, F.; da Silva, P. Spatial–Spectral Analysis of Hyperspectral Images Reveals Early Detection of Downy Mildew on Grapevine Leaves. Int. J. Mol. Sci. 2022, 23, 10012.
 

Avec l’émergence d’IA (Intelligences Artificielles) génératives telles que ChatGPT ou Dall-e, quelle place conserve l’humain dans le processus créatif ?

En deux mois, le robot conversationnel ChatGPT de l’entreprise OpenAI a franchi le cap des 100 millions d’utilisateurs. Une croissance impressionnante lorsque l'on sait que Google Maps a atteint ce seuil en deux ans. Derrière la fascination du grand public pour cet outil dont les applications sont multiples (génération d’images, brainstorming, rédaction d’articles, …), cette percée amène à redéfinir la conception même de la créativité.

Quelle part de créativité revient à l'IA ? Et au concepteur ? Ces IA vont-elles concurrencer la créativité humaine ou au contraire l’élargir ? Alors que les entreprises du secteur et géants de la Tech accélèrent le déploiement de ces solutions, le monde de l’enseignement et la recherche est également impacté par cette révolution, qu’il s’agisse d’intégrer ou non l’IA dans l’apprentissage, de former aux métiers de demain ou d’utiliser le machine learning pour optimiser des travaux de recherche. Quelles perspectives ces nouvelles technologies ouvrent-elles ?

Venez débattre de ce sujet brûlant avec :

► Flavien CHERVET, Directeur innovation d’IRIIG (International Research Institute for Innovation & Growth) et co-fondateur de Lyon-iS-Ai

► Virginie MATHIVET, Data Science & Engineering Manager chez TeamWork Animation : Camille Guyon, Fabrique de l'Innovation

« Faire aussi bien (voire mieux) avec moins de ressources » : ce pourrait bien être la maxime préférée de Stefan Duffner, enseignant-chercheur au laboratoire LIRIS¹. Spécialiste de l’apprentissage et de la reconnaissance des formes au sein de l’équipe Imagine², il explore une approche de l’Intelligence Artificielle (IA) plus frugale. Comment faire de l’IA robuste, sécurisée et fiable avec moins de données ? Comment relever le défi de la sobriété dans un domaine tenaillé par une course à la performance permanente ? Quel degré d’erreurs est-il acceptable pour un système à qui l’on demande de prendre des décisions pour nous-même ? Stefan Duffner propose d’explorer un concept qui encourage une approche de compromis, entre performances et impacts sur l’environnement. Explications.

Pourquoi, de tous les outils du numérique, l’intelligence artificielle devrait-elle prendre le pli d’une certaine frugalité ou sobriété ?
Derrière le terme « intelligence artificielle » se cache un monde très vaste. Pour ma part, je m’intéresse à l’apprentissage automatique et aux réseaux de neurones profonds, appelé « deep-learning », qui sont des méthodes qui régissent nos principaux usages de l’intelligence artificielle. Ces dernières années, les outils faisant appel à des IA, se sont largement démocratisés, au moyen d’appareils embarqués et de données massivement exploitées. Si l’utilisation de ces données volumineuses permet d’avoir des modèles très précis, il est désormais reconnu qu’elle présente de lourdes conséquences sur le plan environnemental, notamment en matière de consommation d’énergie. Aussi, cette exploitation de données massives va souvent de pair avec des calculs de plus en plus complexes et lourds. Une autre part de la consommation énergétique de l’IA vient de l’apprentissage. Pour qu’un modèle d’intelligence artificielle fonctionne, il a besoin d’être entraîné, d’apprendre. Souvent déployée sur des data centers de grande envergure, cette activité peut s’avérer très gourmande en énergie. Ces approches actuelles, qui ne tiennent pas compte des ressources limitées de la planète, ne sont plus tenables. C’est pour cette raison qu’une partie de la communauté scientifique appelle à plus de frugalité dans l’utilisation des intelligences artificielles, en étudiant d’autres approches plus sobres, tout au long du cycle de développement de l’IA.

Concrètement, quels leviers peuvent être actionnés pour que l’intelligence artificielle soit plus « frugale » ?
Le but, c’est de faire plus léger. Aujourd’hui, beaucoup de modèles sont surdimensionnés et consomment beaucoup plus d’énergie que le besoin le requiert. Il y a beaucoup d’approches pour faire plus « frugal » en matière d’intelligence artificielle et la communauté scientifique commence à s’intéresser notamment à la réduction de la complexité des modèles, en utilisant moins de données ou en les « élaguant ». Il y a aujourd’hui, une surenchère des réseaux de neurones car c’est le système fournissant les résultats les plus performants et efficaces. Cependant, il existe de nombreux usages pour lesquels un apprentissage un peu moins efficace, moins énergivore et plus explicable comme les modèles probabilistes, pourrait convenir. Et puis, concernant les autres leviers, il y a la dimension du matériel, du réseau et du stockage des données qui mériterait d’être repensée pour des IA plus sobres. Je dis « sobre », car il me semble que c’est un terme à différencier de « frugal ». La frugalité invite à faire mieux avec moins, alors qu’il me semble que la sobriété implique de remettre en question les besoins, à l’échelle sociologique, ce qui n’est pas de mon domaine de chercheur en informatique. 

Donc, d’après ce que vous laissez entrevoir, l’IA frugale, ça n’est pas vraiment pour tout de suite. Quels sont les freins ?
J’identifie au moins deux freins majeurs. D’abord, un frein technique. Faire de l’IA frugale implique de trouver le bon compromis entre sécurité, robustesse et réponse au besoin. Les deux premières propriétés sont complètement inhérentes à notre usage de l’intelligence artificielle : nous ne voulons pas utiliser d’IA qui fasse de graves erreurs et qui soit sujette aux attaques malicieuses. Parfois, en diminuant les modèles pour gagner en économie d’énergie, on diminue la robustesse. Prenons l’exemple de la voiture autonome : nous ne voulons certainement pas diminuer la robustesse de l’IA qui contrôle la voiture automatique, et que celle-ci confonde un vélo et un piéton. Pour lui faire apprendre à différencier les situations, cette IA a « appris », à travers une multitude de situations différentes. Il sera donc difficile dans cette situation d’alléger le modèle car le seuil de tolérance doit être très bas pour éviter la moindre catastrophe. Bien sûr, on peut questionner le besoin de développer des voitures autonomes, mais c’est un autre débat… L’autre frein majeur pour le développement d’une IA plus frugale, c’est qu’elle implique des compétences dans plusieurs domaines, ce qui réduit le champ des spécialistes pouvant s’impliquer dans cette mouvance. C’est d’ailleurs ce qui m’a motivé à faire un projet avec la SATT Pulsalys³ pour développer un service, facile d’utilisation destiné aux ingénieurs, data-scientists ou à des entreprises qui souhaiteraient s’investir dans la réduction de modèles, sans pour autant en être spécialistes. Nous sommes encore en train de travailler sur un prototype qui ne devrait pas tarder à voir le jour.

Il y a un vrai débat entre les approches dites « green IT » et « IT for Green ». Les terminologies sont proches, pourtant, les démarches ne sont pas les mêmes. Comment y voir plus clair ?
Effectivement, il y existe un vrai débat entre ces approches, qui peuvent être complémentaires. La première prévoit de minimiser l’impact négatif des opérations et des équipements sur l’environnement. L’autre est une démarche qui utilise le numérique dans un objectif de réduction de l’empreinte écologique. Pour ma part, je crois que les intelligences artificielles sont encore trop largement utilisées pour créer des besoins dont l’utilité pourrait être remise en question. Cela est dû au déploiement massif de l’IA ces dernières années, lui-même rendu possible par la disponibilité des ressources de calcul et le matériel disponible, assez bon marché. Jusqu’à aujourd’hui, il est facile d’investir dans l’IA, grâce à des financements. Il ne faut pas oublier que c’est un domaine encore jeune, et que les solutions pour faire plus frugal, ne sont pas encore à la portée de tous. Sur le papier, j’ai le sentiment qu’il y a beaucoup de volonté pour faire « plus vert », mais dans les entreprises, la décision est difficile : utiliser une IA plus « verte » coûte souvent plus cher. Alors que développer un outil d’IA pour faire « plus vert », est un projet plus facilement défendable devant des financeurs. C'est aussi un domaine qui manque encore de règlementation. Nous pourrions imaginer que l’utilisation d’une IA soit soumise à des obligations d’économie d’énergie : ces règles existent pour le chauffage, pourquoi pas avec une IA ?

 

[1] Laboratoire d'InfoRmatique en Image et Systèmes d'information (UMR 5205 CNRS / INSA Lyon / Université Claude Bernard Lyon 1 / Université Lumière Lyon 2 / École Centrale de Lyon)
[2] Computer vision, Machine Learning, Pattern recognition
[3] Créée en 2014, La Société  d’Accélération du Transfert de technologies (SATT) Pulsalys du site Lyon et Saint Étienne a pour mission de mutualiser les moyens et compétences des établissements de recherche publique de l’écosystème lyonnais et stéphanois en vue d'accélérer le transfert de technologies issu de leurs laboratoires.

Comment les cyclistes choisissent-ils leurs itinéraires ? Préfèrent-ils emprunter les voies cyclables ou le chemin le plus court ? Sont-ils prêts à faire des détours si la route est plus sûre et fluide ? Voici les premières questions posées par Lucas Magnana dans le cadre de ses travaux de thèse intitulée « De la ville intelligente à la ville prédictive : applications et modes de transports actifs ». Au sein du laboratoire Citi¹, il étudie les segments préférentiels des cyclistes pour pouvoir proposer un nouveau type d’infrastructure cyclable dynamique. Grâce à l’intelligence artificielle, il souhaite inciter les citoyens à utiliser davantage le vélo en ville. Explications.  

Lucas Magnana est formel : prédire le chemin préféré des automobilistes pour aller d’un point A à un point B est assez simple. « En voiture, on choisit souvent le chemin le plus court ou le moins cher. Pour les cyclistes, la prédiction est moins aisée car beaucoup de facteurs implicites, comme le sentiment de sécurité (qui est très subjectif) conditionnent le choix d’un itinéraire à vélo. », explique Lucas Magnana.

Le comportement des cyclistes, pourtant très documenté, est un champ d’étude complexe. Lorsque Lucas se penche sur la question, il émet plusieurs hypothèses, confirmées par l’étude d’une base de données de 2532 traces GPS générées par 40 cyclistes lyonnais et stéphanois. « Nous avons remarqué que les cyclistes ne prenaient pas forcément le chemin le plus court entre leur origine et leur destination ; 95 % des cyclistes sont prêts à faire des détours de moins de 2,5 km pour atteindre leur destination. » Pour reproduire les comportements des cyclistes, le doctorant a développé un modèle qui s’appuie sur un réseau de neurones. En l’entraînant, il a retrouvé des segments de route spécifiques. « Nous avons pu confirmer à travers notre analyse et le comportement de notre modèle qu’il existait certains segments de route plus régulièrement empruntés que d’autres, sur lesquels beaucoup de vélos se rassemblent. » 
Cette information est capitale pour la suite de l’étude de Lucas Magnana. « Lorsque l’on prend son vélo pour se rendre quelque part, il y a une fonction mathématique qui se fait dans notre tête, et selon certains facteurs qui nous sont propres, on va choisir un itinéraire. Notre objectif serait d’inciter les cyclistes à emprunter des segments de route qui seraient optimisés pour leur passage », explique le doctorant du Citi.

En créant des sortes de pistes cyclables dynamiques, le passage des vélos en serait fluidifié et plus sûr. « Aujourd’hui, il existe deux grands types d’infrastructures cyclables : les pistes en blanc ou les pistes délimitées en dur comme sur les berges du Rhône ; puis il y a l’urbanisme tactique qui prévoit des marquages temporaires, en jaune. Nos travaux s’attachent à évaluer la possibilité de proposer un troisième type d’infrastructure cyclable, une sorte de piste virtuelle qui s’adapterait grâce aux feux de signalisation notamment, à l’arrivée d’un peloton de cyclistes. » 
Le but serait donc d’inciter les vélos à se rassembler sur plusieurs segments de route connectés, sans pour autant y construire une infrastructure physique. « Lorsqu’un peloton de cyclistes se trouverait sur ces segments, il serait détecté. À leur approche, les feux de signalisation passeraient au vert, leur permettant de traverser les croisements de manière sécurisée et de ne pas perdre leur allure. » 

Le regain d’intérêt pour le vélo ces dernières années pour ses avantages écologiques, économiques et de santé publique pousse les décideurs et urbanistes à réfléchir à de nouvelles tactiques urbaines. Lucas prévient : pour l’instant, il n’est pas encore question d’applications concrètes. « Il reste encore plusieurs freins à lever. Par exemple, l’adaptation de la voirie dynamique passe par de la collaboration entre des usagers qui n’interagissent pas entre eux. C’est un projet pluridisciplinaire qui mêle transport, intelligence artificielle et sociologie d'une certaine façon. »

Si l’idée n’existe pour le moment qu’à titre expérimental, Lucas Magnana et ses directeurs de thèse, Hervé Rivano et Nicolas Chiabaut, espèrent que ces outils permettront à terme, d’envisager les infrastructures urbaines non plus comme un partage de l’espace statique mais comme une commodité reconfigurable à la demande.

 

[1] Centre d’Innovation en Télécommunications et Intégration de service (INSA Lyon/INRIA)

 

Industrie, médecine, applications de rencontres ou même justice : l’intelligence artificielle (IA) inonde divers aspects de notre vie quotidienne. Seulement, certaines erreurs plus ou moins graves, sont régulièrement relevées dans le fonctionnement de celles-ci. En cause ? Des biais de représentativités présents dans les jeux de données. 
Virginie Mathivet, ingénieure INSA du département informatique (2003) et docteure du laboratoire Liris¹, est engagée sur la question. Pour l’auteure et conférencière, un maître-mot pour que l’IA ne soit pas un outil de duplication des discriminations déjà vécues dans la vie réelle par certaines minorités : la diversité. Récemment nommée experte IA de l’année 2022, Virginie a partagé son savoir à la communauté dans le cadre de « la semaine des arts et des sciences queer » organisée par l’association étudiante Exit+. Elle alerte sur l’extrême nécessité de porter une attention particulière à l'inclusion dans l’intelligence artificielle. Interview.

On connaît l’importance de la diversité pour faire une société plus égalitaire ; pourquoi est-elle aussi importante dans les jeux de données utilisées par les IA ? 
Les intelligences artificielles sont des machines apprenantes : grâce à des bases de données, que l’on appelle des « datasets », des modèles sont fabriqués par des développeurs dans un but précis, par exemple pour détecter des défauts sur les chaînes de fabrication industrielles et pour lesquelles ils donnent de très bons résultats. Cependant, ces dernières années on a vu exploser les applications entraînant des prises de décisions sur les humains : l’accès à un crédit, le recrutement, des décisions de justice… On a aussi vu que ces IA étaient capables d’erreurs systématiques. On se souvient du logiciel de recrutement discriminant d’Amazon dont l’objectif était de faire économiser du temps aux ressources humaines en étudiant les candidatures les mieux notées par la machine. Il s’est avéré que l’algorithme sous-notait les profils féminins fréquemment car les jeux de données utilisés pour modéliser le logiciel s’appuyaient sur les CV reçus les dix dernières années, dont la plupart étaient des candidatures masculines. C’est ce que l’on appelle « un biais » : la machine ne fait jamais d’erreur aléatoire ; elle répète les biais -conscients ou inconscients- que les expérimentateurs ont commis en choisissant les données. Sans diversité, qu’elle soit de genre, culturelle, de génération, l’IA restera une extension des inégalités vécues dans la vie réelle.

Avez-vous d’autres illustrations de ce risque que représente le manque de diversité dans les jeux de données ? 
Un exemple assez parlant est celui du système de reconnaissance faciale utilisée par les iPhones. La première version de FaceID n’était pas capable de reconnaître les propriétaires asiatiques car le dataset initial ne comptait pas assez de visages de ce type et l’algorithme n’avait tout simplement pas appris à les reconnaître ! Mais il existe des exemples aux conséquences beaucoup plus graves comme les systèmes de détection automatique des cancers de la peau : l’intelligence artificielle est tout à fait capable de reconnaître des mélanomes sur les peaux blanches, beaucoup moins sur les peaux foncées. Cela occasionne des problèmes d’accès aux soins considérables, en omettant une partie de la population. Pour aller plus loin encore dans l’illustration, de nombreuses applications ne considèrent pas les minorités sexuelles : aujourd’hui, on considère que l’on est soit un homme, soit une femme. Qu’en est-il pour les personnes transgenres, intersexes ou même non-binaires ? C’est le vide intersidéral, notamment lorsqu’il s’agit de traitements médicaux grâce aux IA.

Comment ces biais sont-ils remarqués ou relevés ? Ne peuvent-ils pas être détectés plus en amont ?
Aujourd’hui, les erreurs systématiques sont relevées car certaines personnes en sont victimes et dénoncent les manquements. Souvent, on a la très forte impression d’attendre des conséquences potentiellement graves pour analyser le dataset et tester le modèle. C’est ce qu’il s’est passé avec une voiture autonome d’Uber à Tempe (Arizona) qui a tué un piéton. La raison de l’accident s’est révélée après l’enquête : le dataset n’avait pas permis à l’IA d’apprendre à reconnaître les piétons hors des passages cloutés. La victime, qui marchait à côté de son vélo, a été percutée par la voiture qui arrivait trop vite malgré l’identification tardive de la personne comme un piéton. Il faut croire que les questions financières et les retours sur investissements sont plus importants pour ces entreprises que les dégâts que ces IA peuvent causer, par manquement ou négligence.

Existe-t-il une façon pour les expérimentateurs de se prémunir contre ces biais ?
Il existe une seule solution : diversifier les jeux de données au maximum. Est-ce que toutes les populations sont bien représentées par rapport à la réalité ? C’est la question qu’il faudrait se poser à chaque apprentissage, mais il faut penser à toutes les situations donc c’est extrêmement difficile. Si l’équipe chargée d’implémenter l’IA est composée de personnes venant de tous horizons, on peut arriver à limiter les biais. Chacun arrivant avec sa vision des choses, son quotidien et les situations quotidiennement vécues : celui ou celle dont la mère se déplace avec un déambulateur pensera à telle situation ; ou dont le mari est en fauteuil roulant à d’autres ; ceux avec des enfants penseront autrement, etc. Ça n’est pas tant que les modèles conçus contiennent des biais volontaires, mais il y a forcément des minorités auxquelles on pense moins car nous n’en avons pas de représentations dans nos vies quotidiennes. Autre piste, pour éviter que la technologie ne divise encore plus et ne cause plus de dégâts, un brouillon de loi européenne est actuellement en cours de validation. L’Artificial Intelligence Act doit être voté en 2022 pour une application en 2023.

Quelles seront les grandes lignes de ce règlement ? 
Cette loi décompose l’utilisation de l’intelligence artificielle selon trois catégories : les « applications interdites » ; les « applications à haut-risque » ; et les « applications à faible risque ». Pour les « applications à haut risque », comme celles utilisées pour l’autorisation de crédit bancaire ou la justice, elles seront soumises à un certificat de conformité CE avant la vente et l’utilisation du modèle. Ces types d’IA seront certainement les plus surveillées car ce sont les plus propices à reproduire des biais discriminants. Cette législation permettra un premier pas vers l’inclusion, je l’espère, en Europe. 

 

[1] Laboratoire Informatique en Images et Systèmes d’Informations

 

Dans les couloirs du BF2i, la blouse blanche est de mise. Derrière les portes vertes du bâtiment, des salles d’expérimentation hébergent des colonies de petits insectes verts, logés dans des boîtes cristal. Le puceron du pois, s’il est l’espèce mascotte du laboratoire, est le cauchemar des agriculteurs et des jardiniers. Il aime s’installer à l’abri du soleil, sous les feuilles pour prélever tranquillement la sève des plants, et malgré sa couleur verte harmonieuse, il est capable de réduire des récoltes à néant.
Depuis 2017, des chercheurs de l’INSA Lyon ont uni leurs forces pour combattre ces ravageurs grands de quelques millimètres, en mettant l’intelligence artificielle au service de l’agronomie. Focus sur une innovation qui pourrait bien s’avérer être le futur de l’insecticide durable.

Un projet ambitieux et aventureux
Le printemps 2020 a été marqué par des chiffres exceptionnels de présence de pucerons dans les champs de betteraves. Virulents, car transmetteurs de maladies, ces organismes sont habituellement éloignés des cultures au moyen de néonicotinoïdes, un type d’insecticide puissant largement controversé pour son danger sanitaire sur la biodiversité. En octobre dernier et en dépit de l’interdiction de 2018, les betteraviers avaient obtenu une dérogation pour faire face à l’infestation de pucerons, relançant la controverse. « Pour donner un ordre d’idée de l’efficacité des pesticides aériens, seuls 0,3 % vont réellement toucher leur cible. Les produits phytosanitaires atteignent les insectes pollinisateurs sans lesquels tout le système de reproduction des plantes s’effondre ; impactent les prochaines descendances de nuisibles qui se transforment pour résister aux produits ; sans parler du danger qui pèse sur la santé des consommateurs. La lutte chimique est utilisée depuis très longtemps, et ses ravages sont de plus en plus mis en lumière. Il est temps de trouver des alternatives durables et applicables à grande échelle », explique Pedro Da Silva, enseignant-chercheur et directeur-adjoint du laboratoire BF2i.
C’est ainsi qu’est né en 2017, faute de solution alternative crédible pour pallier les difficultés des agriculteurs, le projet Green Shield, entre les murs de trois laboratoires de l’INSA Lyon. « François Feugier est arrivé avec une invention brevetée, un laser robotisé. Il nous a demandés si nous pouvions travailler ensemble à une preuve de concept. Le robot était une invention ambitieuse, et cela nous plaisait. Depuis, le projet a pris beaucoup d’ampleur, avec la création d’une start-up Green Shield Technology, et la participation de quatre laboratoires : l’INL¹, Ampère² et BF2i ³ et Femto-st », explique Arnaud Lelevé, responsable scientifique du projet ANR – Green Shield 2017-2021.

Cible en vue : visez, armez
Après 5 ans de travail, un premier prototype a vu le jour. « Nous avons réussi à mettre sur pied un petit robot à 4 roues capable de rouler au-dessus des plants. Il est équipé d’une caméra qui détecte les pucerons, d’un boitier laser à CO2 et d’un banc optique. En arpentant les rangées de champs, il est capable de détecter les pucerons et de les éliminer avec un faisceau laser », explique Arnaud Lelevé. 

Pour arriver à un niveau de détection efficace, les équipes ont longuement étudié leur organisme cible : le puceron des pois, un animal étonnant capable de se faire presque invisible sur des hectares de culture. « C’est un puceron vert, sur une plante verte ! Ces insectes sont particulièrement difficiles à détecter, car ils se placent sous les feuillages et se fondent avec les plantations. Ils sont même capables de faire « les morts », en se laissant tomber au sol, en restant plusieurs jours pour mieux remonter ensuite. Choisir cette espèce n’était pas anodin : nous sommes partis du principe de qui peut le plus, peut le moins. Si notre prototype est capable de détecter et d’éliminer des pucerons, il pourra être efficace sur un grand nombre d’espèces, plus facilement détectables », explique Pedro Da Silva.
Un autre sujet qui a longuement occupé les équipes a fait l’objet d’une publication dans la revue scientifique Nature Scientific Reports. « Il fallait trouver le juste niveau d’irradiation laser pour tuer le puceron, sans endommager le végétal. C’était un travail presque chirurgical, car il ne fallait pas que la solution présente le moindre risque collatéral pour les cultures et le reste de la biodiversité », ajoute Arnaud Lelevé.

Projet Green Shield V.2
Soutenus par l’agence nationale de la recherche depuis 2017, les chercheurs prévoient encore quelques années de travail. « Nous espérons pouvoir réaliser une autre version du prototype avec nos collègues des laboratoires LiRiS et Citi pour améliorer l’intelligence artificielle. Il s’agirait aussi de rendre la solution miniature, pour que le robot soit plus facile à installer et s’adapte à tous les types de champs. Pour le moment, nous n’avons pas encore mené d’études de rentabilité et nous manquons de données expérimentales pour lancer une quelconque industrialisation », ajoute Arnaud.

Le projet transdisciplinaire peut également compter sur l’un des membres fondateurs pour sa future introduction sur le marché du pesticide durable. Depuis, la start-up Greenshield Technology a pu mettre en application les résultats de recherche pour commercialiser une technologie de désherbage haute-précision qui fait les preuves du potentiel des faisceaux laser infrarouges pulsés. Créée en même temps que la labellisation ANR du projet scientifique, la start-up peut se féliciter d’une belle réussite sociale et financière. Arrivé seul dans les laboratoires de l’INSA Lyon, le fondateur et docteur François Feugier a embarqué près d’une quinzaine de salariés à ses côtés, inscrivant le projet ANR Green Shield dans l’une des mutations les plus importantes pour l’avenir de l’homme et son environnement : parvenir à une agriculture durable et respectueuse de sa biodiversité.

 

¹Institut des Nanotechnologies de Lyon (CNRS/INSA Lyon/Lyon 1/CPE/ECL)
²Génie Électrique, Électromagnétisme, Automatique, Microbiologie Environnementale et Applications (INSA Lyon/ECL/Lyon1/CNRS)
³Biologie Fonctionnelle, Insectes et Interactions (INSA Lyon/UdL/INRAE)