En 2016, Jean-François Bonnefon, psychologue spécialisé sur la morale au CNRS et à la Toulouse School of Economics, Azim Shariff (Université de Californie) et Iyad Rahwan (MIT) avaient publié une première étude menée auprès de 2 000 citoyens américains sur les choix moraux liés à la voiture autonome. En cas d'accident imminent, doit-elle privilégier la survie de ses passagers ou celle des piétons ? 75% des personnes interrogées étaient en faveur de la mise en place d'un algorithme qui sacrifierait le passager pour sauver le plus grand nombre. Mais déjà, Jean-François Bonnefon pressentait l'importance du facteur culturel. "L'histoire morale, politique et légale d'un pays va peser sur ces résultats. Les préférences morales varient d'un pays à un autre", nous indiquait-il.

Un site devenu viral via YouTube et Reddit

L'équipe de recherche a donc mené une seconde enquête à plus large échelle depuis Moral Machine, une plateforme en ligne permettant de simuler des scenarii d'accidents : faut-il mieux écraser un chien qu'un homme ? Des enfants ou des personnes âgées ? Se sacrifier pour sauver le plus grand nombre ? Et cetera.

Exemple de scénario du projet Moral Machine.

"Au bout des 13 scenarii, l'internaute obtient son portrait-robot moral. C'était une manière de rendre ludique la participation à l'étude. Très vite, le site web est devenu viral. Le lien a été très partagé via Reddit (réseau social désormais plus populaire que Facebook aux États-Unis, ndlr). Sur YouTube, des personnes qui avaient beaucoup d'abonnés et habituées à se filmer en testant des jeux vidéo, ont posté des vidéos en train de répondre à Moral Machine. Nous avons estimé qu'au minimum 2,5 millions de personnes réparties dans 230 pays et territoires y ont répondu. C'est unique pour une étude en sciences sociales !", se réjouit Jean-François Bonnefon.

L'étude a également obtenu une reconnaissance scientifique puisqu'elle a fait l'objet d'une publication dans la prestigieuse revue américaine Nature.

Des choix moraux différents suivant les pays

"Les résultats montrent trois grands principes universellement partagés : sauver les hommes plutôt que les animaux, préserver le plus grand nombre de vies et protéger les jeunes plutôt que les personnes âgées", indique le chercheur.

Mais suivant les pays des nuances à ces trois principes sont observées. Les chercheurs remarquent que dans le bloc occidental (à l'exception de la France), les internautes sacrifient davantage les personnes âgées et inversement sauvent plus les femmes. Dans le bloc oriental (qui va du Japon au Moyen-Orient), la préférence accordée aux jeunes est bien moins présente et les habitants sont plus sensibles au respect de la loi (si le piéton traverse au feu vert ou rouge, par exemple). Le bloc sud, qui comprend les pays d'Amérique du Sud, la France (métropole et DOM-TOM) et ses anciennes colonies (Algérie, Maroc...), montre un plus grand attachement au statut social des piétons.

Infographie réalisée par la revue Nature d'après l'étude Moral Machine.

"Nous avons remarqué globalement que plus les inégalités sont fortes et plus les internautes étaient prêts à sacrifier un SDF. Plus les droits des femmes étaient développés et plus les automobilistes étaient prêts à les sauver. Inversement, plus la loi faisait autorité dans un pays et plus les participants pouvaient sacrifier des personnes traversant en dehors des clous", remarque Jean-François Bonnefon.

Il semble peu probable que face à un accident imminent, le conducteur ait le temps de repérer le statut social d'un piéton. Mais les chercheurs ont introduit dans le test un personnage SDF et un autre obèse "pour montrer un exemple de biais et pourquoi les gouvernements ne peuvent reposer uniquement sur l'avis des citoyens le paramétrage d'une voiture autonome. L'opinion publique n'a pas toujours raison". D'ailleurs, une commission d'éthique allemande sur les véhicules autonomes recommande d'exclure toute caractéristique personnelle notamment l'âge.

Amener à réfléchir sur le paramétrage des voitures sans chauffeur

À la publication de cette étude, le directeur de la R&D de Valéo (équipementier automobile) a estimé dans Le Monde qu' "avant de se trouver devant un dilemme impossible, sans voie de dégagement possible, la voiture aura ralenti".

De son côté, le psychologue toulousain considère "irresponsables de tels propos" : "même si la voiture sans chauffeur réduit de 50%, il y aura toujours beaucoup de morts sur la route. Il y a déjà eu des accidents mortels impliquant des voitures autonomes donc on ne peut tabler sur zéro accident".

Le chercheur explique avoir présenté aux internautes des scénarii certes peu probables mais simples pour que les internautes comprennent l'esprit des dilemmes moraux. "Ces choix peuvent se retrouver dans des exemples plus courants. Si votre voiture sans chauffeur double un vélo et qu'un camion arrive en face. Soit le véhicule laisse une plus grande distance de sécurité avec le cycliste mais met en danger son passager, soit à l'inverse l'engin protège le conducteur mais risque de renverser le vélo. Mais ce scénario demande une page d'explication, donc pour les besoins de l'étude, nous avons préféré des exemples plus simples".

Avec le succès rencontré par Moral Machine, le chercheur espère que de nouvelles d'études s'appuieront sur la masse de données collectées et mises gratuitement à disposition avec une répartition par pays.