Souvenez-vous, en mars 2018, une voiture Uber en mode autonome avait tué une piétonne. Le régulateur américain des transports NTSB indique que la femme en question avait bien été détectée, mais que le logiciel n'était pas programmé pour la classer en tant que piéton.
Souvenez-vous, en mars 2018, une voiture Uber en mode autonome avait tué une piétonne. Le régulateur américain des transports NTSB indique que la femme en question avait bien été détectée, mais que le logiciel n'était pas programmé pour la classer en tant que piéton.
L'organisme a publié un nouveau rapport avant une prochaine audition pour déterminer les causes probables et les responsabilités de cet accident qui a coûté la vie à la piétonne et mis un coup d'arrêt temporaire aux essais Uber.
Dans un premier temps, on se demandait si la technologie avait bien détecté la personne qui traversait la route dans le noir au petit matin, avec son vélo à côté d'elle. Dans un rapport préliminaire, la NTSB indique que la voiture a bien "vu" la femme de 49 ans, 6 secondes avant le choc. Largement suffisant pour actionner un freinage d'urgence.
Oui, mais voilà, désormais, l'organisme affirme que la technologie d'Uber "ne prenait pas en compte l'éventualité de piétons traversant hors des clous", ajoutant : "le système ne l'a jamais classée comme piétonne" mais comme un "objet". Un piéton hors des passages protégés ? Cela existe ?
Il a fallu attendre le tout dernier moment pour que le logiciel décide d'effectuer ou non un freinage. Et ce fut "non" car un tel freinage ou une manœuvre d'évitement aurait mis en difficulté le véhicule (un SUV NDLA). La seule chose qu'a faite le véhicule est de lancer une alerte sonore. Mais, il était largement trop tard pour que la conductrice réagisse (qui plus est, elle était absorbée par son téléphone NDLA).
Depuis, Uber a mis à jour son logiciel pour prendre en compte ces cas. Les tests ont repris plusieurs mois après, dans d'autres villes. "Dans le sillage de cette tragédie, l'équipe a développé des améliorations essentielles pour accorder encore plus de priorité à la sécurité", a indiqué une porte-parole d'Uber dans un message transmis à l'AFP.
Entre septembre 2016, date des premiers tests, et mars 2018, date de l'accident mortel, les voitures autonomes Uber ont été impliquées dans 37 accidents dont "seulement" deux de la faute du véhicule.
C'est évidemment peu. Mais, contrairement à un conducteur humain à qui on accorde (trop facilement ?) le bénéfice de l'erreur, on attend des véhicules autonomes une perfection totalement illusoire. En effet, soit les véhicules autonomes sont réglés pour s'arrêter à la moindre alerte et ils seront comme des chatons apeurés, hésitants et maladroits, soit on introduit une dose de "témérité" pour que le véhicule ne s'arrête pas au moindre papier volant ou au moindre piéton au bord du trottoir, et on prend le risque d'accidents.
Outre la tragédie évidente du décès de cette piétonne, on touche ici un point essentiel des véhicules autonomes. A savoir, un logiciel doit-il choisir entre un piéton et ses occupants ? En faisant une manœuvre, le véhicule pourrait sauver la vie du piéton, mais tuer, ou blesser, son ou ses occupants. En ne faisant rien, les occupants ont la vie sauve mais pas le piéton.
Des considérations philosophiques que ne se poseront les logiciels que si on les programme pour cela. Ici, ce n'était visiblement pas le cas. L'audition pour déterminer exactement les causes de cet accident se tiendra le 19 novembre prochain.
Outre les considérations techniques et philosophiques, il reste à déterminer les responsabilités dans un tel accident. Un constructeur de véhicule autonome (ici Uber) est-il à incriminer dans l'accident, ou bien est-ce le conducteur "de secours" qui aurait dû être plus alerte au lieu de regarder "The Voice" sur son téléphone ?
Les procureurs de l'Arizona ont décidé en mars 2019 que Uber n'était pas criminellement responsable de ce drame. En revanche la conductrice de "backup" peut toujours être poursuivie.
Pourtant, à la vue de ce nouveau rapport de la NTSB, il semble étrange que l'on exonère de toute charge un constructeur automobile estimant qu'un piéton ne peut pas traverser en dehors des clous et codant son logiciel ainsi. Ce n'est pas un bug, c'est un choix délibéré.
Avec AFP, illustration : Uber
Souvenez-vous, en mars 2018, une voiture Uber en mode autonome avait tué une piétonne. Le régulateur américain des transports NTSB indique que la femme en question avait bien été détectée, mais que le logiciel n'était pas programmé pour la classer en tant que piéton.
Retrouvez tous les soirs une sélection d'articles dans votre boite mail.
