Syracuse

Oui et pour cela Nicolas prêtons nous à un petit scénario d’anticipation. 

Imaginons que vous avez pris place à bord d’une voiture sans chauffeur. C’est donc le véhicule qui vous conduit vers votre destination. 

Tout d’un coup, sur le chemin, un groupe de piétons traverse la route sans prévenir. L’accident est inévitable. Que doit faire la voiture ? Sacrifier votre vie ou celle des piétons ? 

Ce terrible dilemme deviendra réalité le jour où ces véhicules arriveront sur le marché.

C’est pour anticiper cette situation, que des chercheurs américains et français ont créé le projet Moral Machine, un simulateur qui récolte des données venues du monde entier en demandant quel type d’intelligence artificielle nous sommes prêts à accepter et quelle confiance nous voulons accorder à ces machines autonomes ? 

Depuis sa mise en ligne en juin 2016, ce test a reçu plus de 40 millions de réponses sur les préférences morales des personnes. C’est l’une des plus grosses enquêtes jamais réalisées au niveau académique. En France c’est le psychologue cognitif Jean François Bonnefon qui a imaginé ce simulateur.

Qu’est ce qui se dégage dans les réponses des personnes qui ont répondu ? 

Et bien deux grandes tendances qui sont partagées dans le monde entier : la première c’est que la majorité des personnes souhaite que le nombre de morts ou de blessés soient le moins importants possible qu’ils soient piétons ou passagers. Bien. 

Sauf que lorsque l’on interroge les personnes sur le type de voiture qu’ils voudraient vraiment acheter, ils choisissent en grande majorité le modèle qui va privilégier leur propre sécurité aux dépens de celles des piétons. Un classique des dilemmes sociaux où l’intérêt égoïste passe avant l’intérêt collectif. 

Et puis la seconde tendance c’est le poids très important accordé à la vie des enfants. Les personnes ne pensent pas en terme de nombre de vies à sauver mais en nombre d’années de vie sauvées. Les personnes les plus âgées sont de fait toujours pénalisées.  

En septembre dernier, le ministère des transports allemand a publié des recommandations issues de réflexions d’experts en intelligence artificielle. Il en ressort qu’il serait moralement inacceptable pour une voiture de choisir qui elle doit sauver, sur la base de caractéristiques liées à l’âge ou au sexe. Exactement le contraire de ce qui est exprimé par les Internaute dans le test Moral Machine. 

Que peuvent nous apprendre ces expériences de pensée Mathieu ? 

Et bien que ces intelligences artificielles rendent les scénarios très complexes en raison du nombre de situations possibles. Car il existe des milliards de combinaisons et les constructeurs se gardent bien pour le moment de livrer des principes éthiques concernant leurs futures voitures autonomes. 

Selon Jean François Bonnefon face au choix du véhicule en cas d’accident il sera pourtant indispensable de ne pas déclencher l’aversion irrationnelle du public. Les conducteurs ne s’installeront à bord de ces voitures que s’il existe des règles éthiquement acceptables.  

Et Bonnefon de rappeler que ces voitures autonomes sauveront de toute façon plus de vie que ne le ferait un humain.