"Les industriels ont aujourd'hui un fort besoin d'embarquer de l'intelligence artificielle sans quoi ils se feront disrupter par d'autres. En même temps, ils ne le feront pas à n'importe quel prix. L'aéronautique est un secteur phare dans le domaine de la certification et on ne fera pas voler un avion avec de l'IA sans être sûr que le taux de panne est infime. C'est l'image de marque des industriels qui est en jeu", résume Grégory Flandin. Ce salarié d'Airbus est mis à disposition pour diriger le programme Deel depuis l'IRT Saint-Exupéry à Toulouse.

Lancé en septembre 2018, ce projet est mené en partenariat avec l'université de Montréal et une poignée d'industriels de part et d'autre de l'Atlantique : Airbus, Thales, Continental et Safran côté France, Bombardier notamment côté Canada... Objectif : rendre plus fiables les systèmes d'IA.

Expliquer les décisions de l'IA

" Les outils de deep learning actuellement déployés dans les jeux vidéo fonctionnent comme une boîte noire. On obtient rapidement de bonnes performances mais sans savoir pourquoi. Ce n'est pas acceptable quand on a des vies humaines entre les mains. Il faut pouvoir expliquer pourquoi l'IA a pris telle décision. Par exemple, quels pixels d'une image ont permis au système de déduire qu'il s'agit d'un chat sur l'image ", poursuit-il.

Une nécessité pour détecter de mauvais raisonnements de la machine.

"Une étude récente a montré une IA capable à 99% de distinguer un chien d'un loup. Problème, l'outil regardait uniquement s'il y avait de la neige sur l'image", complète Guillaume Gaudron, responsable de la stratégie autour de l'IA au sein de l'IRT.

La robustesse des systèmes est également à améliorer. En 2017, une équipe académique américaine ajoute des Post-it sur un panneau de signalisation et fait prendre à un algorithme un panneau "sens interdit"  pour une "vitesse limitée à 50 km/h".

 "Un signe présent sur la piste d'atterrissage ou sur les capteurs pourrait être identifié par l'avion comme un warning nécessitant de remettre les gaz immédiatement pour redécoller. Le fait qu'en modifiant un tout petit peu l'image on peut changer radicalement la décision n'est pas acceptable", argue Grégory Flandin.

Jeu de casse-brique, simulateur de drones

 Dans les labos toulousains, différents types d'expériences sont menés. David Bertoin, ingénieur, s'est penché sur un jeu de casse-briques pour savoir sur quelles parties de l'écran se focalisent les algorithmes pour emporter la partie : "Celui qui obtient le moins bon résultat s'est concentré sur le score, ce qui ne sert à rien. Le meilleur regarde à la fois la balle et les briques à casser. Et il creuse un tunnel pour casser les briques par le haut en rebondissant". Le jeu pourrait trouver des applications dans les voitures sans chauffeur. "Nous pourrions identifier les parties de la route sur lesquelles un véhicule s'est focalisé pour prendre une décision. A-t-il freiné à cause d'un piéton ou parce qu'il a confondu un sac plastique avec un humain ?", illustre-t-il.

L'IRT travaille sur un autre programme dédié aux véhicules autonomes visant à améliorer leur performance face à des événements rares. Dans l'un des scénarios, un drone doit éviter des obstacles fixes et mobiles dans un environnement simulé sur ordinateur. Les mêmes drones seront testés dans la vie réelle. Une manière de mieux connaître les compétences à tester ensuite sur simulateur.

"Nous profitons de la richesse des environnements numériques pour faire face à des situations critiques. On ne va pas demander dans la vie réelle à une voiture de rouler le plus vite possible en sens inverse sur la rocade toulousaine embouteillée pour emmener une victime d'AVC à l'hôpital", fait remarquer Guillaume Gaudron.

D'autant que beaucoup de systèmes d'IA fonctionnent sur un principe d'apprentissage par imitation à partir d'un volume important de données. "On pourrait très bien à partir de millions de données de vol apprendre à un avion à voler par beau temps. Mais impossible de l'entraîner aux événements d'occurrence rares qui sont par définition imprévisibles", note-t-il.

 Des chatbots pour les dialogues ATC

De son côté, Airbus s'intéresse à l'IA pour ses projets de taxis volants sans chauffeur. Mais les tâtonnements actuels de ces algorithmes font dire à Guillaume Alleon, responsable IA au sein du département de la direction de la technologie du constructeur aéronautique, que  "l'IA, à court terme, sera plus facile à implémenter dans les avions pour des fonctions d'aide au pilote que dans les systèmes complexes".

Le groupe a lancé une plateforme baptisée AIgym pour lancer des challenges ouverts aux startups, aux étudiants et aux labos de recherche. L'un d'eux porte sur les dialogues ATC, les échanges entre les pilotes et les contrôleurs aériens.

"Dans les phases d'approche, le pilote doit porter une attention toute particulière à ces messages car cela va le guider dans son approche finale. Or, un aéroport international doit gérer beaucoup de dialogues avec différents accents anglais. Nous mettons en place des technologies similaires à celles utilisées par les enceintes connectées ou les chatbots pour apprendre à la machine à décoder ces dialogues. Le pilote pourrait se concentrer sur des tâches à plus forte valeur ajoutée", estime Guillaume Alleon.

Pour lui, la collaboration entre industriels et chercheurs toulousains permettra de faire mûrir plus vite les projets d'IA dans les transports. La route est en tout cas encore longue avant de voir voler un avion sans pilote grâce à de l'intelligence artificielle.