Smart City : "il faut concevoir une IA avec ses utilisateurs et non pas pour eux"

 |   |  826  mots
Laurence Devillers veut une intelligence artificielle transparente à tous les niveaux.
Laurence Devillers veut une intelligence artificielle transparente à tous les niveaux. (Crédits : Rémi Benoit)
Comment pouvons-nous faire accepter l'intelligence artificielle par tous et comment la réguler ? Ces problématiques ont été abordées lors de la 5ème édition du Forum Smart City organisé par La Tribune, vendredi 13 décembre, dans la salle des Illustres du Capitole à Toulouse. Voici un décryptage de ce que doit être l'IA selon des chercheurs qui privilégient la création d'un "GIEC" de l'IA.

Faut-il avoir peur de l'intelligence artificielle et des technologies qui l'utilisent ? Depuis plusieurs années, ce débat anime la place publique entre les potentiels emplois qu'elle peut faire disparaître, ou encore l'exploitation des données que cette intelligence récolte sur ses utilisateurs, sans parler des robots intelligents qui pourraient remplacer les hommes ? Face à ces inquiétudes, le Forum Smart City, organisé par La Tribune, a consacré une table ronde sur le sujet, vendredi 13 décembre, à l'occasion de sa 5ème édition.

"La donnée et son utilisation sont l'ADN de la métropole toulousaine avec le programme Smart City mis en place sur la période 2015-2020. Cela est observable avec le développement de la plateforme Open Data Toulouse Métropole, chargée de collecter et d'analyser les données publiques pour créer les usages de demain. C'est dans cette optique que nous travaillons avec Indigo, notamment pour tenter d'indiquer avant que vous entriez avec votre voiture dans le centre-ville si des places de parking sont disponibles. Mais Aniti va nous permettre d'aller plus loin encore", tente de rassurer Bertrand Serp adjoint au maire de Toulouse et vice-président de la Métropole en charge de l'innovation et du numérique.

IA Smart City

L'IA sera au cœur de la ville intelligente de demain (Crédits : Rémi Benoit).

De plus, la Ville rose a obtenu il y a quelques mois un institut interdisciplinaire 3IA, initié par le rapport Villani, grâce à son projet Aniti basé sur l'intelligence artificielle appliquée sur les mobilités et la santé. Ce projet regroupe ainsi des dizaines de chercheurs du monde entier, des laboratoires, des collectivités, des grands groupes industriels et des startups.

Lire aussi : Toulouse attire une star américaine de l'intelligence artificielle

Il faut une IA explicable et transparente

"C'est une très bonne chose que Toulouse ait décroché cet institut. Aniti va permettre de développer l'intelligence artificielle. Mais il faudra développer une IA explicable et certifiable et non pas une boite noire indéchiffrable", insiste Rachid Alami, chercheur CNRS au LAAS et titulaire de la chaine Aniti "Human Robot Interactions".

IA Smart City

Le chercheur Rachid Alami travaille sur le développement de robots autonomes et leurs interactions avec les hommes (Crédits : Rémi Benoit).

Certains tentent déjà de l'expliquer auprès du grand public comme le Toulousain Luc Julia. Cet ingénieur, passé par Apple et HP au sein de la Silicon Valley, dirige la division IoT de Samsung et a récemment sorti un livre nommé "L'intelligence artificielle n'existe pas" aux éditions First. Dans une interview accordée à La Tribune quelques semaines après, il dénonçait les discours alarmistes de certains sur l'IA tout en appelant à écouter ceux qui font vraiment de l'intelligence artificielle et qui la maîtrisent. Dans ce sens, des chercheurs appellent à mettre en avant la transparence de cette technologie pour la faire accepter de tous.

"La question que nous devons nous poser est la suivante : voulons-nous créer une intelligence artificielle et une smart city de confiance ? Si c'est le cas, l'économie de demain devra être éthique. Les machines doivent être plus transparentes et non pas aux mains de quelques-uns. Il va falloir arriver à un certain degré de démystification de ces objets. Pour y parvenir, il faut concevoir une IA avec ses utilisateurs et non pas pour ses utilisateurs", argumente Laurence Devillers, professeure en IA à la Sorbonne-Université, chercheuse au LIMSI-CNRS et auteur du livre "Des robots et des hommes".

IA Smart City

En partenariat avec la startup Soben, Enedis a développé ce robot à base d'IA qui suit à la trace l'opérateur sur le terrain et qui se présente comme un sac à dos (Crédits : Rémi Benoit).

Lire aussi : À Toulouse, les opérateurs d'Enedis travaillent avec un robot intelligent

Un besoin de politiques régulatrices ?

Pour insuffler ce besoin d'éthique et de transparence sur qui doivent compter les citoyens ? Au-delà des industriels, un cadre politique sera nécessaire à l'image de la charte signée entre le moteur de recherche Qwant et les collectivités d'Occitanie pour promouvoir un numérique éthique et souverain.

"Les politiques sont au cœur du système car c'est à eux de fixer les règles. Alors aujourd'hui, il est dit que la France est trop normée mais grâce à ces gardes-fous nous savons où nous allons", justifie Bertrand Serp.

IA Smart City

Pour l'élu, les collectivités doivent fixer les limites de ce que deviendra l'IA (Crédits : Rémi Benoit).

"On donne des règles à la machine que seul l'humain établit ! Ce n'est pas la machine qui va établir des règles de manière autonome", avait également précisé Luc Julia dans son entretien. Pour établir ces règles, Rachid Alami évoque la possible création "d'un équivalent du GIEC pour l'intelligence artificielle afin de réfléchir sur cette technologie de manière responsable". Sera-t-il entendu ? Les années à venir donneront la réponse.

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :