Learning spatial representations for single-task navigation and multi-task policies

Doctorant : Pierre MARZA

Laboratoire INSA : LIRIS

École doctorale : ED512 Informatique Et Mathématiques de Lyon

Agir de manière autonome dans notre monde en 3 dimensions requiert un large éventail de compétences, parmi lesquelles la perception du milieu environnant, sa représentation précise et suffisamment efficace pour garder une trace du passé, la prise de décisions et l'action en vue d'atteindre des objectifs précis. Les animaux, par exemple les humains, font preuve de capacités très robustes lorsqu'il s'agit d'agir dans le monde. Ils se distinguent notamment par leur capacité à s'adapter efficacement à de nouveaux environnements dans diverses conditions (éclairage, conditions météorologiques, etc.), mais aussi à maîtriser rapidement de nombreuses tâches d'intérêt à partir de quelques exemples. Ce manuscrit étudie la manière dont les réseaux neuronaux artificiels peuvent être entrainés pour atteindre un sous-ensemble de ces capacités. Nous nous concentrerons tout d'abord sur l'entrainement d'agents neuronaux capables d'effectuer une cartographie sémantique, à la fois à partir d'un signal de supervision augmenté et avec des représentations neuronales de scènes. Les agents neuronaux sont souvent formés par apprentissage par renforcement (RL) à partir d'un signal de récompense peu dense. Guider l'apprentissage des capacités de cartographie de la scène en augmentant le signal de supervision de l'apprentissage par renforcement avec des tâches auxiliaires facilitant le raisonnement spatial aidera à naviguer plus efficacement. Au lieu d'améliorer le signal d'entraînement des agents neuronaux, nous verrons également comment l'incorporation de représentations neuronales spécifiques de la sémantique et de la géométrie dans l'architecture de l'agent peut contribuer à améliorer les performances de navigation lorsqu'il s'agit d'atteindre des objectifs sémantique spécifiques. Ensuite, nous étudierons la meilleure façon d'explorer un environnement 3D afin de construire des représentations neuronales de l'espace qui soient aussi satisfaisantes que possible sur la base de métriques pensées pour la robotique que nous proposerons. Enfin, nous passerons d'agents de navigation entraînés à généraliser à de nouveaux environnements à des agents multi-tâches et nous verrons à quel point il est important d'adapter les caractéristiques visuelles extraites des observations des capteurs à la tâche à accomplir afin de réaliser une grande variété de tâches, mais aussi d'essayer de généraliser à de nouvelles tâches inconnues à partir de quelques démonstrations seulement. Ce manuscrit abordera donc différentes questions importantes telles que : Comment représenter une scène 3D et garder une trace de l'expérience passée dans un environnement? — Comment s'adapter de manière robuste à de nouveaux environnements, à de nouveaux scénarios et potentiellement à de nouvelles tâches ? — Comment entrainer des agents à des tâches séquentielles à long terme? — Comment maîtriser conjointement toutes les sous-compétences requises? — Quelle est l'importance de la perception en robotique ?
 

Découvrez les inventeurs de demain !

Les 28 et 29 juin 2024, venez découvrir les inventeurs de demain lors de Meet & Fabrik L’EXPO, la première foire aux innovations étudiantes du territoire Lyon Saint-Étienne !

Bras robotique humanoïde, combinaison aquatique futuriste, éoliennes en kit… À travers une grande variété de maquettes et de prototypes, explorez les solutions imaginées par celles et ceux qui inventent demain.

En parallèle de cette exposition interactive de 1500m², mettez-vous dans la peau d'un “maker” avec des démonstrations et ateliers, assistez à des conférences et remises de prix, et découvrez comment l'innovation peut faire partie de notre quotidien.

Un évènement organisé par la Fabrique de l'Innovation de la ComUE Université de Lyon, avec le soutien de la Région Auvergne-Rhône-Alpes et la Métropole de Lyon.

 

--- Meet & Fabrik L’EXPO est un événement gratuit et accessible à tous sur inscription. L'ensemble des animations se déroule au Double Mixte à Villeurbanne :

• Vendredi 28 juin pour le public professionnel, les scolaires et les jeunes en insertion professionnelle
• Samedi 29 juin pour le grand public.

Le temps d’un week-end, retrouvez-nous dans le nouveau monde du Festival Yggdrasil : Demain, mais en mieux !

Pour se lancer dans 2022, il y a ceux qui souhaitent les vœux… et ceux qui nous offrent les raisons concrètes d’y croire : « DEMAIN, MAIS EN MIEUX ! », les 12 et 13 février prochains à Eurexpo dans le cadre du Festival Yggdrasil, c’est votre dose de dopamine au cœur de la grisaille !​​​​​​​

Une très grande expo (3000 m2 !), plus immersive que jamais, sur tout ce qui se mitonne dans les coulisses de la science pour préparer un DEMAIN positif et humaniste. Et surtout, une expo ultra-vivante puisqu’elle vous propose des vraies rencontres, les yeux dans les yeux, avec les grands scientifiques et ingénieurs qui planchent sur ces sujets.

« DEMAIN, MAIS EN MIEUX ! », c’est l’événement qui vous donne à voir en vrai ce dont vous n’avez jusque-là fait qu’entendre parler. Avec quelques expériences incroyables à la clé pour les visiteurs : se faire masser par un robot, endosser un véritable exosquelette…

Et ce qui rend l’événement encore plus sympa, c’est sa volonté de rester 100% accessible en famille : ici on se concentre sur les promesses de vie offertes par les progrès présentés, pas sur la technique ! La preuve ? Le tout est proposé sous forme d’une visite… d’un vaisseau spatial, rien de moins !

 

IEEE International Conference on Automation Science and Engineering (CASE) is the flagship automation conference of the IEEE Robotics and Automation Society and constitutes the primary forum for cross-industry and multidisciplinary research in automation.

Its goal is to provide a broad coverage and dissemination of foundational research in automation among researchers, academics, and practitioners. IEEE CASE 2021 will be held in Lyon, France, on August 23-27, 2021. The theme of the conference is Data-Driven Automation.

Bertin Nahum aura une révélation au cours de sa formation à l’INSA Lyon : il sauvera des vies. Depuis, il transforme ses rêves en objectifs et s’apprête à lancer sur le marché Epione®, un robot capable d’assister les chirurgiens dans le traitement du cancer du foie. Parcours d’un homme qui a révolutionné la chirurgie grâce à la robotique.
 
Ingénieur diplômé de l’INSA en 1994, vous aviez choisi le département Génie Électrique. Comment en êtes-vous venu à poursuivre la voie de la robotique chirurgicale ?
C’est à la fin de mon cursus à l’INSA Lyon, lors d’un projet de fin d’études en collaboration avec l’hôpital de neuro-cardiologique, que l’immersion dans le milieu médical a été une révélation. Nous devions développer un logiciel d’intelligence artificielle pour faire le diagnostic automatique de lésions crâniennes. Jusque-là, mes choix se faisaient plutôt par défaut. Dès lors, pouvoir contribuer à soigner les gens a donné du sens à mon diplôme d’ingénieur en génie électrique et électronique. Et j’ai voulu consacrer mes compétences et mes connaissances aux technologies dédiées à la santé.
 
Vous être réputé comme étant l’un des entrepreneurs high-techs les plus innovants au monde. Quel regard portez-vous sur votre parcours ?
J’éprouve à la fois de la satisfaction et une certaine fierté concernant mon parcours professionnel.
Mon leitmotiv depuis des années est la volonté de révolutionner la chirurgie en misant sur la robotique.
Grâce à ma force de conviction, j’ai réussi à créer une première entreprise Medtech S.A en 2002 et développer ainsi Brigit, un robot destiné à la chirurgie orthopédique, puis Rosa, un robot dédié aux opérations du cerveau et de la colonne vertébrale. 
En 2013, j’ai fait l’introduction en bourse de cette société puis je l’ai accompagnée dans son rachat en 2016 au prix de 165 millions d’euros par le groupe américain Zimmer Biomet Robotics, leader mondial des implants orthopédiques.
En 2017, je réussis à convaincre certains collaborateurs de co-fonder Quantum Surgical et de se lancer dans une nouvelle aventure à mes côtés. 
Je pense que ma détermination est un élément essentiel concernant mon parcours. C’est cette confiance en mes projets et cette détermination qui m’amènent la réussite, et surtout m’aident à surmonter les échecs, inévitables, de la vie d’entrepreneur.
 
Vous venez de terminer les essais cliniques d’un robot chirurgical dédié au traitement du cancer du foie. Pourquoi cette spécialisation ?
Mon équipe et moi-même nous sommes orientés vers le cancer du foie car c’est le 6^e cancer le plus répandu dans le monde, et le 2^e en termes de mortalité.
Cette pathologie touche 840 000 nouveaux patients chaque année dans le monde dont 8 000 en France. De plus, les métastases hépatiques concernent trois fois plus de patients (2,4 millions de nouveaux patients chaque année à travers le monde).
Fort de ce constat, nous avons décidé de créer notre robot Epione® permettant ainsi d'assister les praticiens dans leurs gestes, de réduit l'impact des opérations, les risques d'infection et les durées d'hospitalisation.
 
En ces temps confinés où il est parfois difficile de rester optimiste, quel message pourriez-vous faire passer ?
Je pense que cette crise nous permet de nous réinventer. Il est important de continuer de croire en son projet et ne pas s’arrêter. 

Copyright photo : Quantum Surgical

 

Se cuisiner un bon petit plat sans bouger le petit doigt ? C’est possible. Pour faire face aux impératifs de la vie quotidienne qui laissent parfois peu de temps pour cuisiner, Guillaume Saillard, en 3^e année de Génie Énergétique et Environnement (3GEN) et Steven Richard, en 2^e année de Formation Initiale aux Métiers d’Ingénieur (2FIMI) ont imaginé un îlot de cuisine central autonome.

Vie professionnelle, tâches domestiques, logistique scolaire, et pourquoi pas, corvée culinaire. Et si un robot ménager, intégré aux meubles de cuisine, était capable de découper, cuire ou encore faire la vaisselle de façon autonome ? Dans le cadre de la première édition du TechChallenge organisé en octobre dernier par le Groupe SEB, deux étudiants de l’INSA Lyon ont imaginé le « robot Îlot », un appareil ménager du futur. Guillaume et Steven se sont démarqués parmi les 200 projets candidats et ont remporté la première place du concours. Ils présentent leur solution.

« L’appareil s’intègre dans n’importe quelle cuisine et peut constituer une solution complète. Il est composé d’un bras robotisé, d’un pèse-aliment, d’une plaque chauffante, de ventilateurs et d’un monte-plat. Tous ces composants sont renfermés dans un caisson et sont pilotés par un langage de programmation simple. Les commandes sont envoyées via Bluetooth grâce à l’application dédiée que nous avons aussi développée. Il s’agissait de fournir une solution innovante permettant à l’utilisateur d’améliorer son quotidien et sa santé. Il peut s’adapter aux établissements de restauration, aux personnes à mobilité réduite, aux personnes âgées ou aux nuls en cuisine ! Le robot-îlot, c’est l’assurance de bien manger, sans effort ! », explique Guillaume Saillard.
 
L'innovation s'est développée autour du TechChallenge organisé par le Groupe SEB. Steven Richard revient sur cette expérience qui invitait les candidats à imaginer le robot domestique de demain.

« Le concours s’est divisé en plusieurs étapes. D’abord, nous devions présenter l’idée parmi 200 autres solutions. Les dix équipes-projets retenant l’attention du jury étaient ensuite invitées à passer deux jours à Écully, au siège de l’entreprise, pour peaufiner leur prototype et étoffer les arguments de vente. Être sélectionnés pour la deuxième étape du challenge a fait grandir notre idée rapidement ! Grâce à une subvention de 1000 euros, nous avons pu réaliser un prototype fonctionnel et être associés aux équipes d’experts du Groupe SEB, au sein de la plateforme de prototype de l’entreprise. Nous avons aussi été frapper à la porte de FIMITECH, l’atelier de production de l’INSA Lyon, pour fabriquer le caisson et utiliser la découpe laser. Grâce au cadre du challenge, nous avons pu réfléchir un produit programmable, connecté et sécurisé, de la conception à son intégration dans l’environnement domestique ».

Les deux étudiants ont présenté le projet devant un jury de professionnels ; ils sont montés sur la première marche du podium, fiers et un peu étonnés de leur réussite.

« Ni Steven, ni moi sommes spécialistes en électrotechnique ! Je suis étudiant en Génie Énergétique et Environnement et je n’avais aucune compétence technique en programmation. Ce challenge a été une belle occasion pour nous de développer de nouvelles aptitudes. Nous avons réussi à mettre un robot sur pied en trois mois. D’ailleurs, pour la petite histoire, nous lui avons fait porter un verre d’eau qu’il a échappé au-dessus des circuits électroniques. C’était la veille de la présentation au jury, mais heureusement que l’on a pu sauver les meubles », s’amuse Guillaume. 

 

Sydney, fin juin 2019. L’équipe LyonTech avait remporté, l’année dernière, la 5^e place. Cette année, ce sont deux marches de plus grimpées sur le podium de la RoboCup@Home Social Standard Platform League. Benoit Renault (doctorant INSA/CITI) et Vincent Le Doze (ingénieur INRIA/CITI) étaient sur place, soutenus virtuellement par les autres membres de l’équipe, composée de membres des tutelles INSA Lyon, CPE Lyon, INRIA et Lyon1, restés en France. Ils racontent.

Considérée comme l’une des plus grandes compétitions pour robots de service autonomes, la RoboCup@Home vise à développer des technologies de robotique d’assistance pour des applications domestiques. En lice dans la ligue « standard » où les compétiteurs utilisent des robots commerciaux, c’est le modèle Pepper qui prête ses services à l’équipe LyonTech.

« La compétition commence par une phase de préparation intense de deux jours. Notre robot est d’abord inspecté par les arbitres et doit montrer ses capacités de navigation autonome et d’interaction homme-robot. Pour préparer les épreuves, nous prenons des photos de l’appartement dans lequel Pepper devra évoluer et nous effectuons un scan 2D pour déterminer l’emplacement des obstacles statiques », explique Benoit Renault. 

Les épreuves de la compétition se composent de différents scénarios à accomplir. Le robot « réceptionniste » a pour rôle d’accueillir les invités à l’entrée de l’appartement, d'obtenir leur nom et boisson favorite, et de les guider jusqu’au salon pour les présenter à leur hôte et invités potentiellement présents. 
« Pour cette première situation, nous devons faire naviguer le robot, lui apprendre à connaître et reconnaître des humains en les associant à des identités. Mais malheureusement, ça n’est pas l’épreuve qui nous a le plus avantagé. Tout ne s’est pas déroulé comme nous l’espérions malgré nos nuits courtes et nos soirées de code intensives ! Notre robot a mis du temps à récupérer les images et les analyser. Le temps nous filait entre les doigts », poursuit le doctorant. 

L’équipe LyonTech se concentre alors sur la seconde épreuve, intitulée « take out the garbage ».
« Il s’agit pour le robot d’identifier les poubelles de l’appartement, les récupérer par les anses dans un contenant fermé et sortir de l’appartement pour les jeter à l’endroit prévu. Mais mauvaise surprise au moment de l’épreuve ; les sacs n’avaient plus de anses et étaient plus lourds qu’annoncé !  Nous étions dépités et notre préparation ne suffisait pas : Pepper a lâché le sac à chaque essai », ajoute Vincent Le Doze.

Après plusieurs jours de compétition, c’est finalement le 4^e jour qui s’annonce salvateur pour l’équipe lyonnaise. 
« La veille, on nous avait annoncé que nous avions droit à deux essais supplémentaires pour chaque scénario. Mais le jour même, le personnel de nettoyage avait pris les sacs de l’épreuve « take out the garbage » pour de vrais détritus ! Les sacs ont alors été changés, avec des anses cette fois-ci. Il nous a fallu changer les codes vingt minutes avant l’essai, la pression était forte. Nous retenions notre souffle et lorsque Pepper a passé la porte et posé le sac à l’endroit donné, les cris de joie étaient de mise : nous étions troisième de notre ligue ! », dit Benoit.

La RoboCup@Home s’est enfin clôturée sur le RoboCup Symposium, une conférence scientifique permettant à l'équipe Chroma du CITI (INSA/INRIA) de mettre en avant leurs apports auprès de la communauté.
« Nous venions avec deux articles. L’un rédigé par Jacques Saraydaryan, Raphaël Leber et Fabrice Jumel, restés en France, et un autre écrit par moi-même et mes directeurs de thèse, Olivier Simonin et Jacques, portant sur les premiers fruits de ma recherche doctorale. Le papier de mes collègues a reçu le Best Scientific Paper Award : c’est une magnifique récompense pour le travail de notre équipe ! », conclut le doctorant. 

Laboratoire commun financé par le programme labcom édition 2016 de l'ANR

Behaviors.ai est porté par l'équipe SMA (Systèmes Multi-Agents) du LIRIS^* et par l'entreprise Hoomano qui conçoit des applications pour les robots d'interaction.

L'objectif de ce laboratoire commun est d'explorer de nouvelles approches de l'intelligence artificielle, et en particulier l'intelligence artificielle développementale, pour concevoir de nouvelles formes d'interactions et pour créer des robots plus empathiques, capables d'apprendre au fur et à mesure de leurs interactions avec l'environnement.

L'inauguration aura lieu dans le cadre du SIDO, l’événement fondateur de la filière IoT. Elle sera suivie du workshop annuel de Behaviors.ai sur le thème : Emotionally Intelligent Social Robots

--------------------

^*LIRIS - Laboratoire d'InfoRmatique en Image et Systèmes d'information
UMR 5205 CNRS / INSA Lyon / Université Claude Bernard Lyon 1 / Université Lumière Lyon 2 / École Centrale de Lyon

Biomimétique - L'imitation sans limitation

La biomimétique n’est pas à proprement parler une discipline. On pourrait l’appeler une inter-discipline, et une méthodologie d’inspiration et de collaboration entre des scientifiques et un objet biologique singulier fournissant un exemple, un modèle, un processus ou un dispositif répondant aux interrogations de ces scientifiques. A minima, ce dialogue sera une source d’inspiration créative, et dans de nombreux cas, il pourra fournir des solutions innovantes qui auraient difficilement été conçues sans ce passage par l’observation et la compréhension intime du « sujet » biologique et de son histoire évolutive." Yvan Rahbé, directeur de recherche INRA.

Programme complet :

• Une exposition de posters du 18 au 29 mars dans le hall d'entrée autour d'une dizaine de thématiques :  histoire, mécanique des structures, bio-mahématique, robotique, insectes, microbes, architecture, design, modélisation mathématique 
• Une expostion de livres et de photos dans le kiosque du 18 au 29 mars 
• Une conférence le 19 mars à 19h30  : "Introduction à la Biomimétique et Biomimétique et énergie"
• Des ateliers :  le Blob, les robots légo et Biomin'challenge le 21 mars à partir de 14h

En 2016, l’INSA Lyon accueillait dans les bureaux du laboratoire CITI-INSA Lyon, « Pepper » (SoftBank Robotics), un robot humanoïde d’intérieur aux capacités mécatroniques et de perception de haute performance. Son arrivée au sein de l’équipe CHROMA avait suscité une volonté de participer à la RoboCup@Home, organisée à Montréal en juin 2018.
Retour sur la prometteuse participation de l’équipe LyonTech composée de chercheurs et d’ingénieurs de l’INSA Lyon, CPE Lyon et l’Université Lyon 1.

Une équipe LyonTech made in La Doua
C’est en mettant à profit leurs compétences et expertises que les sept membres de l’équipe LyonTech se sont hissés jusqu’aux phases finales de la compétition. Fabrice Jumel, Raphael Leber, Eric Lombardi, Laetitia Matignon, Jacques Saraydaryan, Olivier Simonin et Christian Wolf se sont placés en 5^e position de la RoboCup@Home 2018, suivant de très près l’équipe lauréate de l’année précédente. 

Afin de renforcer le peloton et dans la continuité de la participation à la RoboCup@Home, un étudiant de l’INSA vient de rejoindre l’équipe de chercheurs et d’ingénieurs made in La Doua : Benoît Renault débutera sa thèse à la rentrée en lien avec la compétition de robot la plus spectaculaire du monde.

« Une dynamique RoboCup Pepper s’est lancée au sein de l’équipe CHROMA, et entre l’INSA Lyon et CPE Lyon. Pepper est aussi une plateforme parfaite pour faire le lien entre la recherche et les étudiants. Je l’utilise lors de mes cours de robotique pour le plus grand bonheur des élèves-ingénieurs », déclare Olivier Simonin, professeur au département Télécommunications, Services et Usages de l’INSA Lyon.

Une compétition de robots internationale 
La RoboCup met originellement en compétition des robots footballeurs et depuis quelques années, des « leagues » se sont créées, illustrant la diversité de la robotique actuelle.

« Imaginez… plus de 4.000 robots déployés et 3.500 compétiteurs ! La RoboCup est un événement colossal qui attire 40.000 visiteurs grand public. On y trouve des robots footballeurs, des robots sauveteurs, des robots manufacturiers ou encore des robots d’aide à domicile. C’est un vrai moment de challenge, d’échange et de fête », indique Olivier Simonin, également responsable de l’équipe CHROMA. 

L’équipe LyonTech, la seule équipe française de la compétition qualifiée pour la RoboCup@Home, a ainsi concouru dans la league « RoboCup Pepper » qui correspond précisément aux travaux de recherche menés par CHROMA sur la robotique de service.

Une semaine de compétition intense en situation réelle
La league RoboCup@Home vise à développer une technologie robotique d’assistance pour des applications domestiques. L’évaluation consiste à tester les capacités et les performances de chaque robot dans un univers réaliste et non-standardisé. Navigation autonome, identification des objets environnants et des personnes, dialogue homme-robot, réalisation de tâches de services ou suivi d’un humain en mouvement : chaque Pepper est évalué par un jury composé de chercheurs roboticiens et informaticiens. 

« Les deux premiers jours de la compétition sont intenses car il s’agit d’une phase de préparation dédiée à la cartographie de l’environnement et à un travail d’apprentissage pour la reconnaissance des objets (fondé sur du DeepLearning) pour le robot. Une fois les ultimes tests effectués, on appuie sur le bouton start, et on laisse Pepper opérer. » 

L’équipe LyonTech se qualifie ainsi pour la seconde partie de la compétition qui consiste à placer le robot en situation inconnue dans un environnement qu’il explore pendant l’épreuve. 

« La RoboCup a été pour nous une occasion d’exploiter et tester les avancées de nos recherches. C’était un contexte très stimulant et intense. La cerise sur le gâteau a été de présenter une publication de nos recherches lors du symposium international qui a eu lieu le dernier jour de l’événement. C’est une reconnaissance et une belle valorisation de nos travaux. »

Les résultats très encourageants de cette première participation témoignent d’un travail d’équipe de qualité, d’une complémentarité et d’un esprit de groupe qui a de l’avenir. Revenue « boostée et motivée par cette expérience », l’équipe LyonTech espère toucher les sponsors pour la compétition 2019 à Sydney, en Australie.