Les voitures autonomes doivent-elles sacrifier leur passager pour sauver plus de vies ?

D'après une enquête franco-américaine, la plupart des personnes interrogées sont favorables à la mise en place d'un algorithme de sacrifice dans les véhicules autonomes pour qu'un maximum de personnes soit sauvé. Problème : ces mêmes sondés ne sont pas prêts à acheter un tel véhicule et se détourneraient des véhicules autonomes en cas de réglementation. Un dilemme social selon Jean-François Bonnefon, l'un des chercheurs à l'origine de l'étude.
La voiture autonome doit-elle percuter les piétons ou emboutir la barrière ?

Dans les prochaines années, les véhicules autonomes devraient être de plus en plus nombreux à circuler sur nos routes. Moins énergivores et plus fluides dans leurs déplacements, leur généralisation devrait avoir un impact important sur le nombre d'accidents.

Mais, dans de tels cas, que décidera l'intelligence artificielle ? Privilégiera-t-elle la survie de ses passagers ou celle des personnes extérieures ? Si un véhicule autonome était programmé pour sacrifier son passager afin de sauver plusieurs vies, monteriez-vous dedans ?

Ces questions, les chercheurs Jean-François Bonnefon, Azim Shariff et Iyad Rahwan les ont posées à près de 2 000 citoyens américains. Leurs réponses ont permis de dégager trois enseignements.

"Notre premier résultat indique que, moralement, les gens pensent que les voitures autonomes doivent sauver le plus grand nombre même si cela implique de sacrifier les passagers", explique Jean-François Bonnefon, psychologue spécialisé sur la morale au CNRS et à la Toulouse School of Economics.

Une réponse étonnamment partagé par plus de 75 % des sondés selon le chercheur. "Ce résultat est vraiment fortement exprimé par les sondés qui l'expriment en moyenne à hauteur de 85 sur une échelle d'acceptation de 0 à 100", précise-t-il.

Un dilemme social

Paradoxalement - c'est le deuxième enseignement de l'étude - les mêmes personnes interrogées ne semblent pas prêtes à acheter un véhicule programmé de telle sorte.

"Les gens disent qu'ils seront très contents si leurs voisins les utilisent, mais ils ne sont pas prêts à l'acquérir pour eux, remarque Jean-François Bonnefon. On est là dans ce que les économistes appellent un dilemme social : la situation serait meilleure si on utilisait des voitures utilitaristes et moralement neutres mais, individuellement, chaque personne a plutôt intérêt à conduire une voiture qui le protège. C'est comme les impôts : le pays va mieux si tout le monde les paye mais ce n'est pas plus mal si je ne les paye pas."

Pour sortir d'un tel dilemme social, les économistes préconisent de réguler. Rendre les algorithmes de sacrifice obligatoires sur les véhicules autonomes permettrait donc à un gouvernement de forcer les gens à acquérir ces véhicules et ainsi de réduire la mortalité sur les routes.

Pourtant, selon l'étude, cette solution pourrait avoir un effet inverse à celui recherché.

"C'est le troisième et plus important résultat de notre étude, affirme Jean-François Bonnefon. Si une telle loi passe, l'intérêt d'achat d'une voiture autonome est divisé par trois et la plupart des gens continueraient le plus longtemps possible à conduire tout seul."

Même avec les meilleures intentions du monde et en étant en accord avec les préférences morales des gens, une réglementation pourrait donc faire plus de mal que de bien. "Rendre cet algorithme obligatoire peut sauver quelques vies mais causer la perte de nombreuses autres car les gens n'auront pas adopté cette nouvelle technologie qui est pourtant plus sûre, insiste le chercheur. Pour les gouvernements, le résultat de notre étude est de dire 'attention à la régulation'."

Un biais culturel

Réalisée à travers six enquêtes aux États-Unis, cette étude est-elle transposable à l'Europe ?

"L'histoire morale, politique et légale d'un pays va peser sur ces résultats, reconnaît Jean-François Bonnefon. Les préférences morales varient d'un pays à un autre : l'attitude face à une situation où l'on peut sauver une vie ou en sacrifier une pour en sauver plusieurs. Il y a aussi l'attitude vis-à-vis du gouvernement central (plus ou moins méfiante selon les pays, NDLR). Et puis, il n'y a pas de loi sur la non-assistance aux personnes en danger aux États-Unis."

Le chercheur estime donc qu'il faudrait sans tarder lancer de nouvelles études dans d'autres pays pour comparer les résultats.

Lancer le débat

En attendant, cette étude a le mérite d'ouvrir le débat sur la question. "Il ne faut pas être naïf, souligne Jean-François Bonnefon. Les constructeurs étaient au courant de ce problème, mais ne voulaient pas le mettre sur le tapis avant d'avoir quelque chose de concret à proposer. Cette étude met le doigt sur un problème et appelle à en discuter de façon transparente."

D'après le chercheur et ses collègues Azim Shariff, psychologue spécialiste de la coopération à l'université de l'Oregon, et Iyad Rahwan, informaticien spécialiste des bouleversements sociaux introduits par les nouvelles technologies au MIT, ouvrir le débat permettra aux utilisateurs de changer leur attitude à l'égard des véhicules autonomes.

"Je pense que les choses peuvent rapidement changer maintenant, assure Jean-François Bonnefon. Nous avons un instantané de la position morale des gens et de leurs préférences économiques à un moment où le débat n'a pas été beaucoup discuté. La plupart des gens ne réalisent pas à quel point il y a un consensus moral sur ce que les voitures devraient faire. Quand les gens s'en rendront compte, l'attitude va changer rapidement en faveur d'un algorithme de sacrifice. On peut avoir une attitude qui s'adapte rapidement aux normes sociales et qui rendrait difficile le fait de vouloir être dans une voiture qui protège à tout prix."

Pour contribuer au débat, les trois chercheurs ont créé un site internet permettant de simuler des scenarii d'accidents. "C'est une façon d'explorer les situations les plus difficiles moralement, conclut le chercheur toulousain, mais aussi de donner un forum de discussion aux gens et de lancer le débat."

Sujets les + lus

|

Sujets les + commentés

Commentaire 0

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

Il n'y a actuellement aucun commentaire concernant cet article.
Soyez le premier à donner votre avis !

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.