La sécurité routière, l’angle mort des voitures autonomes

C’est un angle mort dans le développement des véhicules autonomes (VA) : contrairement aux promesses en matière de sécurité routière, le nombre de morts qu’ils engendrent pourrait fortement augmenter dans les prochaines années. En effet, la génération actuelle de VA est pilotée par une intelligence artificielle (IA) dite « à apprentissage profond » (deep learning), qui est d’une grande efficacité pour percevoir des objets et situations sur la route mais qui, à elle seule ne suffit pas à assurer un haut degré de sécurité.

Dans un tel système d’apprentissage, c’est la régularité des relations entre les données d’entraînement qui permet d’extrapoler les prédictions à d’autres données et ainsi produire une impression d’intelligence artificielle. L’utilité de ces systèmes est très grande car ils permettent la mise au point d’applications informatiques sans le recours à du développement algorithmique classique, et donc la confier à des spécialistes de sciences des données qui n’ont pas à maîtriser les arcanes de la programmation ni la logique de sa vérification.

Plus de 700 000 morts aux États-Unis ?

Or, ces systèmes n’ont pas de représentation logique des données, ce qui implique une certaine absence de jugement, ni de vraie représentation des intentions des autres usagers de la route. Lorsqu’on lui confie la conduite et non seulement la navigation, un véhicule autonome peut conduire à de réels problèmes de circulation.

Aux États-Unis, 25 morts « en rapport avec l’utilisation de l’IA dans les véhicules » seraient déjà à déplorer entre 2016 et 2023 selon l’experte en sécurité routière Mary L. Cummings, qui a résumé le problème en une phrase clé dans un travail de recherche récent :

« Une estimation probabiliste ne vaut pas une décision prise dans un contexte d’incertitude ».

Dans un contexte de forte compétition industrielle et d’enjeux…