Voiture autonome Uber : un logiciel mal réglé à l’origine de l’accident mortel

Selon des informations non officielles, Uber aurait compris pourquoi une de ses voitures autonomes a percuté mortellement une piétonne alors que ses capteurs l’avaient bien détectée. Il n’y a pas eu de défaillance mais un réglage trop tolérant qui a conduit la voiture à ne pas réagir en temps voulu.

La voiture autonome d’Uber qui a mortellement blessé une piétonne a bien vu la personne mais son logiciel aurait « décidé » de l’ignorer. Une révélation troublante faite par le site The Information qui s’appuie sur des sources officieuses au fait du dossier.

Selon l’article, les capteurs du SUV Volvo XC90 qui circulait en mode autonome dans la ville de Tempe en Arizona (États-Unis) ont bien détecté la piétonne qui traversait la route en poussant son vélo. Mais le logiciel pilotant la conduite a choisi de ne pas réagir. Il ne s’agit pas d’une défaillance, mais d’un mauvais réglage.

Le logiciel paramétré de manière très tolérante à l’égard des faux positifs

The Information explique que le logiciel Uber, comme celui des autres voitures autonomes, peut être calibré pour être plus ou moins sensible aux « faux positifs », c’est-à-dire des objets comme un sac plastique ou des morceaux de papier qui ne sont pas à éviter. Dans le cas de la voiture autonome d’Uber, le logiciel aurait été paramétré de manière très tolérante à l’égard de ces faux positifs afin de ne pas surréagir.

Malheureusement, cette trop grande souplesse aurait diminué la capacité de réaction du système. Autrement dit, si cette hypothèse venait à être confirmée officiellement, la défaillance serait le résultat d’une erreur humaine dans la programmation et non d’un dysfonctionnement de la voiture autonome. Suite à cet accident tragique, Uber a passé un accord avec la famille de la victime, dont les détails n’ont pas été révélés. L’entreprise a également suspendu ses essais de voitures autonomes jusqu’à nouvel ordre.

  • L’accident de la voiture autonome d’Uber est le premier du genre ayant entraîné la mort d’un piéton.
  • Un conducteur de sécurité était derrière le volant. On ignore encore pourquoi il n’a pas réagi.
  • Ce drame va mettre en lumière la question de la responsabilité dans de telles circonstances.
POUR EN SAVOIR PLUS

Voiture autonome Uber : une vidéo de l’accident mortel sème le doute

Article initial de Marc Zaffagni, paru le 22/03/2018

La police de Tempe (Arizona, États-Unis) a publié une vidéo des caméras embarquées dans la voiture autonome d’Uber qui montre les images quelques secondes avant le drame. On y découvre que le chauffeur ne regardait pas la route. Mais on se demande également pourquoi les capteurs du véhicule n’ont pas détecté la piétonne alors qu’elle évoluait dans une zone dégagée.

Alors que l’enquête sur l’accident d’une voiture autonome d’Uber qui a coûté la vie à une piétonne suit son cours, la police de la ville de Tempe vient de publier sur Twitter des images (qui peuvent choquer un public sensible) extraites des caméras vidéo de l’automobile qui filment en permanence l’intérieur de l’habitacle ainsi que l’extérieur. On y voit une dizaine de secondes avant le choc, d’une part le conducteur de sécurité et, d’autre part, la victime qui surgit de l’obscurité.

On constate que le conducteur de sécurité, censé pouvoir reprendre la main en cas de problème, ne regardait pas la route juste avant l’impact. Il lève les yeux au dernier moment et découvre horrifié que l’inévitable va se produire. On ignore encore pour quelle raison il s’est laissé distraire. Regardait-il son téléphone ? Était-il en train de surveiller des données sur le fonctionnement du système de conduite autonome ? L’enquête le dira certainement. Mais il est clair que dans ces conditions, il ne pouvait pas réagir de façon appropriée.

Des experts estiment que la voiture autonome a failli

L’autre séquence pose davantage de questions. On voit effectivement la victime, Elaine Herzberg, surgir de l’obscurité par la gauche. La chef de la police de Tempe a déclaré au vu des images « qu’il aurait été difficile d’éviter cette collision dans n’importe quel mode (autonome ou humain) en fonction de la façon dont elle est arrivée de l’ombre jusque sur la route ». Une analyse contestée par des experts cités par Associated Press qui estiment que les capteurs de la voiture autonome Uber auraient dû détecter la piétonne en train de traverser.

On remarque en effet sur les images que la femme évoluait dans une zone dégagée sur cette route à double voie. Or, les radars et Lidar qui équipent les voitures autonomes sont conçus pour fonctionner de nuit. La victime n’a pas sauté depuis le bas-côté de la route juste devant la voiture. Elle a traversé la voie sur plusieurs mètres avant d’être percutée. De surcroît, elle poussait un vélo chargé de sacs en plastique, créant une masse en mouvement assez importante.

L’analyse des données télémétriques de la voiture permettra certainement de comprendre pourquoi le système n’a pas détecté la présence d’un piéton. Mais il semble que les déclarations de la police suggérant que la voiture autonome était aussi impuissante que le conducteur soient un peu hâtives. D’autant plus qu’une voiture autonome est justement conçue pour pouvoir mieux anticiper ce type de situation qu’un humain et éviter ce genre de drame.


Uber : un accident mortel qui remet en cause l’avenir de la voiture autonome ?

Article initial de Marc Zaffagni, paru le 20/03/2018

Un taxi autonome Uber a renversé et tué une femme traversant la route. Il s’agit du premier accident fatal impliquant une voiture sans conducteur circulant sur la voie publique. Ce drame va-t-il mettre un coup de frein à l’avènement de la voiture autonome ou au contraire l’aider à progresser ?

Il s’agit du premier accident fatal impliquant une voiture autonome et un piéton. Dimanche soir, vers 22 heures (heure locale) dans la ville de Tempe, en Arizona (États-Unis), une femme traversant la route hors des passages protégés a été renversée par un taxi autonome Uber. Transportée à l’hôpital, elle a succombé à ses blessures. Une enquête a été ouverte par la police locale ainsi que la National Highway Traffic Safety Administration (agence fédérale en charge de la sécurité routière) et le Conseil national de la sécurité des transports (National Transportation Safety Board) pour connaître les circonstances de ce drame.

Uber a présenté ses condoléances à la famille de la victime et assuré qu’il collaborait pleinement avec les autorités. Selon les dernières informations rapportées par le San Francisco Chronicle, Elaine Herzberg, 49 ans, a traversé la route à pied en poussant un vélo depuis un terre-plein central. Le chef de la police de Tempe aurait déclaré que, d’après les images vidéo prises par les caméras de la voiture autonome, « il est très clair qu’il aurait été difficile d’éviter cette collision dans n’importe quel mode (autonome ou humain) en fonction de la façon dont elle est arrivée de l’ombre jusque sur la route ».

Uber a suspendu ses essais de voitures sans conducteur

Aucune responsabilité n’a pour le moment été établie, mais il faut savoir qu’un conducteur de sécurité se trouvait derrière le volant au moment de l’accident. Il s’agit là d’une obligation faite aux sociétés réalisant des tests de véhicules autonomes sur la voie publique. L’enquête devra déterminer pourquoi la personne à bord n’a pas réagi pour éviter la collision. Il faudra également savoir si la voiture qui évoluait en mode autonome a été victime d’une défaillance de ses capteurs ou d’une mauvaise interprétation de ses algorithmes. Dans l’attente, Uber a décidé de suspendre son programme de voitures autonomes dans les villes de Phoenix, Pittsburgh, San Francisco (États-Unis) et Toronto (Canada).

Ce n’est pas le premier accident impliquant une voiture sans chauffeur. Il s’en est produit un sans gravité en mars 2016 avec une voiture autonome de Google. Plusieurs Tesla, dont les conducteurs utilisaient le système de conduite assistée Autopilot, ont été impliquées dans des collisions. En juillet 2016, un homme avait perdu la vie après que sa Tesla Model S roulant en Autopilot avait percuté un camion. L’enquête avait mis hors de cause le logiciel. Uber a aussi connu des déboires. L’année dernière, en mars, l’un de ses SUV Volvo XC90 autonomes avait percuté une autre voiture avant de basculer sur le flanc (voir image ci-dessous). Un autre choc s’est produit la semaine dernière à Pittsburgh, là encore sans gravité.

En mars 2017, une Volvo XC90 autonome d’Uber était impliquée dans un accident spectaculaire mais sans gravité. Cela se passait déjà dans la ville de Tempe, en Arizona (États-Unis). © Tempe Police Department

Le « drame Apollo 1 » de la voiture autonome

L’accident mortel qui vient de se produire va-t-il mettre un coup d’arrêt au développement de la voiture autonome ? C’est peu probable et pas souhaitable. Car oui, l’avènement des voitures sans chauffeur entraînera une diminution des accidents de la route. À vrai dire, ce drame était voué à se produire un jour ou l’autre car il est impossible de simuler toutes les conditions réelles. Et il ne sera malheureusement peut-être pas le dernier.

Paradoxalement, il va certainement contribuer à faire avancer la question de la responsabilité en cas d’accident avec une voiture autonome. De plus, les sociétés comme Google, Uber, Lyft et les constructeurs automobiles qui mènent des programmes de voitures autonomes vont certainement remanier leurs algorithmes pour prendre en compte de telles circonstances et peut-être mettre en place d’autres protections. Et les pouvoirs publics qui doivent plancher sur de futures législations afin d’encadrer les transports autonomes vont peut-être en profiter pour durcir le cadre et imposer des règles plus strictes pour les tests en conditions réelles.

Certains observateurs estiment que la voiture autonome vient de connaître son « drame Apollo 1 ». Le 27 janvier 1967, lors d’un exercice au sol, le module de commande du vaisseau Apollo fut victime d’un incendie qui tua les astronautes Virgil Grissom, Edward White et Roger Chaffee. Cette mission devait être la première du programme avec un équipage. Malgré ce drame, la conquête de l’espace s’est poursuivie, et avec elle des avancées majeures pour l’humanité. La voiture autonome est un progrès incontestable. La question n’est pas de savoir si elle fera un jour partie de notre quotidien, mais quand. C’est peut-être sur ce dernier point que les acteurs devraient se montrer moins empressés et s’employer à rassurer l’opinion publique.