Pilote automatique et dilemme : tuer le conducteur ou les piétons ?

Les voitures autonomes cessent déjà d’être de la science-fiction : on voit apparaître sur les routes des véhicules dotés d’un mode autopilote, capables de rouler sans intervention humaine. Les passionnés d’automobile s’intéressent encore davantage aux critères traditionnels – vitesse, puissance, confort. Ils comparent avec enthousiasme, par exemple, les super-berlines allemandes BMW M5 F90 et Mercedes-AMG E63 S selon leurs caractéristiques. Pourtant, avec l’arrivée de l’autopilote, un tout autre sujet passe au premier plan : l’éthique et la sécurité. Que doit faire la voiture quand l’accident est inévitable ?

Ce n’est déjà plus une question théorique tirée des manuels, mais un vrai problème sur la route. Imaginons la situation : une voiture autonome roule à vive allure et, soudain, un groupe de personnes apparaît devant elle sur un passage piéton. Il est trop tard pour freiner. Deux options : dévier et percuter un mur (en sacrifiant le conducteur) ou continuer et renverser les piétons. L’algorithme d’intelligence artificielle est programmé pour une décision précise – et de cette décision dépendent des vies.

Les philosophes appellent ce choix tragique le « problème du tramway ». Autrefois, c’était une expérience purement imaginaire : faut-il diriger un tramway incontrôlable vers une autre voie pour sauver cinq personnes au prix d’une seule ? Désormais, une dilemme similaire se présente à l’intelligence artificielle sur la route – et ses décisions auront des conséquences réelles.

• Sauver le passager. Continuer sa route en protégeant le conducteur, malgré le risque pour le groupe de piétons.
• Sauver les piétons. Diriger la voiture vers un obstacle ou sur le bas-côté, en sacrifiant la vie de la personne à l’intérieur du véhicule.
• Ne pas choisir délibérément. Éviter un algorithme de choix spécifique – autrement dit, programmer une minimisation des dommages sans ciblage, en laissant de fait les événements se dérouler de manière spontanée.

Certains pourraient objecter que l’intelligence artificielle sera si intelligente qu’elle trouvera toujours une troisième issue, sans danger. Mais c’est plutôt un mythe. En réalité, même les capteurs et logiciels les plus avancés ne peuvent pas abolir les lois de la physique ni éliminer tous les risques. Des situations critiques surviendront malgré tout. Donc, tôt ou tard, la voiture peut se retrouver face à un choix : épargner certains au prix de la vie d’un autre.

L’humanité n’a toujours pas trouvé de réponse unique et juste à ce dilemme. Toutefois, les études sociologiques offrent un regard intéressant sur le problème. Les sondages montrent que la majorité des répondants estime qu’en situation extrême, une voiture autonome devrait sacrifier le passager pour sauver un groupe de personnes. Mais ces mêmes personnes reconnaissent qu’elles n’auraient pas envie de rouler dans une voiture qui, en cas de danger, les sacrifierait consciemment pour sauver des inconnus. Ce paradoxe peut devenir un obstacle au déploiement des véhicules sans conducteur sur les routes.

Voici un résultat parlant d’une étude d’opinion sur la « dilemme de l’autopilote » :

Comme on le voit, la société souhaite à la fois que les robots-conducteurs sauvent le plus de personnes possible, tout en ne voulant pas se mettre elle-même en danger. Cet écart entre la morale et l’intérêt personnel crée un dilemme pour les constructeurs et les régulateurs. Car, quelle que soit la manière de programmer l’algorithme, la décision restera controversée et peut susciter l’indignation.

Qui ira en prison si une voiture autonome provoque un accident ?

Si, malgré tout, une voiture en mode autopilote provoque un accident aux conséquences mortelles, qui faut-il punir ? Cette question n’est pas moins complexe que le choix moral. Les premiers signaux d’alerte ont déjà retenti. Par exemple, en 2018, un véhicule autonome d’essai Uber a mortellement percuté un piéton ; on connaît aussi d’autres accidents mortels impliquant une Tesla en mode autopilote. De tels cas, où c’est l’ordinateur qui « conduit », remettent en cause le principe traditionnel selon lequel toute la faute incombe au conducteur.

Dans le cas d’un « robot-conducteur », plusieurs approches sont possibles pour désigner le responsable. Examinons les principaux scénarios :

1. Le propriétaire (passager) du véhicule. Logique : c’est lui qui se trouvait à bord et a activé le mode autopilote. Peut-être aurait-il dû surveiller la conduite et intervenir – il porte donc une part de responsabilité pour inaction.
2. Le développeur du logiciel (algorithme). Après tout, ce sont les programmeurs qui ont intégré le modèle de comportement ayant conduit à la tragédie. Les ingénieurs doivent-ils assumer une responsabilité pénale pour les conséquences des décisions de leur code ?
3. Le constructeur automobile. L’entreprise qui a lancé le véhicule autonome peut ne pas avoir anticipé tous les risques ou avoir économisé sur les capteurs. Le fabricant (via sa direction) peut être tenu pour responsable en tant que personne morale – par exemple, via des actions en justice et des amendes.

Pour l’instant, il n’existe pas de règle de droit claire à ce sujet. Dans la plupart des pays où les voitures autonomes sont testées, la responsabilité incombe à la personne au volant. Car les systèmes d’autopilote actuels (niveau 2–3) exigent que le conducteur reste vigilant. Ainsi, dans les affaires impliquant Tesla, les tribunaux reconnaissent le plus souvent la faute du conducteur qui a surestimé les capacités de l’autopilote et n’est pas intervenu quand il le fallait.

Cependant, avec l’arrivée de voitures totalement autonomes (niveau 4–5), la nécessité de transférer la faute vers les créateurs de la technologie s’impose логiquement. En Allemagne, la Commission nationale d’éthique sur la conduite automatisée a décidé dès 2017 : si la personne ne contrôle plus le véhicule, la responsabilité de ses actes n’incombe pas au passager, mais au constructeur ou à l’opérateur du système. Certains constructeurs sont même prêts à assumer cette responsabilité – par exemple, Volvo a publiquement promis de prendre toute la faute à sa charge lorsque ses voitures rouleront en mode autonome.

Le transfert de la responsabilité à l’entreprise a ses avantages et ses inconvénients. D’un côté, les propriétaires feront plus volontiers confiance à l’autopilote s’ils savent qu’on ne fera pas d’eux les « boucs émissaires » en cas d’accident. De l’autre, les constructeurs hésitent à assumer toute la faute, car cela les expose à des procès se chiffrant en millions et même à une responsabilité pénale de leurs dirigeants. Il est possible que des polices d’assurance spécifiques ou des limitations juridiques soient mises en place pour équilibrer ces risques.

Malgré toutes ces incertitudes, les technologies de conduite autonome continuent de progresser. Les nouveaux modèles reçoivent des « cerveaux » de plus en plus intelligents. Par exemple, le SUV électrique Volkswagen ID.4 est équipé du système Travel Assist pour la conduite semi-autonome, et les conducteurs de ce modèle peuvent améliorer le confort et la praticité en installant divers accessoires pour Volkswagen ID.4. La conduite entièrement autonome (niveau 5) reste pour l’instant une affaire d’avenir. Et donc, les débats sur les algorithmes moraux et la responsabilité juridique se poursuivront – la société a besoin de temps pour parvenir à un consensus.

Ainsi, le dilemme moral de l’autopilote n’a pas encore de dénouement clair. Faut-il programmer les machines pour sauver la majorité au prix du passager, ou pour protéger leur conducteur à tout prix ? Qui punir pour les erreurs de l’intelligence artificielle – les ingénieurs, les propriétaires, ou personne ? Ces questions mobilisent philosophes, juristes et constructeurs. Il faudra peut-être bientôt revoir les principes établis de l’éthique et de la responsabilité sur la route. Car lorsque c’est l’ordinateur qui est au volant, décisions et culpabilité prennent un tout autre sens – un sens avec lequel l’humanité doit encore apprendre à vivre.