La technologie de conduite nécessite un examen public
Alors que de plus en plus d’automatisation est ajoutée aux automobiles, la nécessité d’un examen et d’un examen publics devient de plus en plus claire. Contrairement à d’autres technologies, les voitures sont utilisées sur la voie publique à des vitesses élevées, donc toutes les personnes a un intérêt à comprendre les implications sur la sécurité des décisions prises par les constructeurs automobiles. À ce titre, il est important que toutes les données relatives à la sécurité soient rendues publiques et soumises à un examen public. Il ne suffit pas que ces choses soient mises à la disposition des régulateurs. Ils doivent être mis à la disposition du grand public.
Pour comprendre pourquoi, examinons l’historique des affirmations de Tesla concernant la sécurité de son système de pilote automatique. Notez que le système de pilote automatique, malgré son nom déroutant, n’est pas la même chose que le « Full Self-Driving » de Tesla. Le pilote automatique est principalement un système de sécurité et de maintien de voie pour la conduite sur autoroute.
Musk a déclaré aux journalistes en 2016 que si le pilote automatique était universellement disponible, un demi-million de personnes seraient sauvées. En 2017, la National Highway Traffic Safety Administration (NHTSA) a déclaré que les données montraient une diminution de 40 % des accidents lorsque le pilote automatique était activé (rapport officiel ici). Cependant, les données sur lesquelles cette affirmation était basée n’ont pas été mises à la disposition du public à l’origine.
Cependant, en 2018, Tesla a commencé à mettre certaines données de sécurité à la disposition du public. Dans un article récent, Noah Goodall a analysé les statistiques et a montré que, lorsqu’il est normalisé aux conditions de conduite, le pilote automatique fonctionne en fait moins bien que les conducteurs humains. La raison pour laquelle les chiffres du pilote automatique semblent si bons est que le pilote automatique est principalement activé dans des endroits et des situations où les accidents se produisent de toute façon moins fréquemment, comme la conduite sur autoroute sur une bonne route par beau temps par un conducteur expérimenté.
Pour illustrer les résultats, disons que quelqu’un a inventé un gilet de sauvetage qui n’était utilisable que dans la partie peu profonde d’une piscine par des adultes. C’est un endroit où les noyades ne se produisent presque jamais de toute façon. Si quelqu’un devait comparer les statistiques de sécurité du gilet de sauvetage par rapport à tout noyades en piscine de quelconque l’âge et quelconque profondeur, il montrerait une amélioration significative, même si le conservateur lui-même ne faisait absolument rien. Cela a été analysé à l’aide d’une approche bayésienne basée sur des modèles d’utilisation connus du pilote automatique.
Ainsi, Tesla a déclaré pendant six ans que le pilote automatique sauverait plus d’un demi-million de vies, et le gouvernement a indiqué qu’il réduisait les accidents de 40 %, mais lorsque les données sont rendues publiques, nous pouvons voir que les avantages du pilote automatique disparaissent .
Plus récemment, cependant, la NHTSA a adopté une position plus proactive. Les versions récentes de la technologie Full Self-Driving de Tesla incluaient des options qui enfreignaient intentionnellement le code de la route (arrêts roulants). Alors que ce mépris flagrant et manifeste des règles publiques a été détecté et rappelé, on se demande s’il existe d’autres coins juridiques qui ne sont pas si facilement identifiables. Le public a le droit de savoir si un fabricant publie un logiciel qui amène intentionnellement (ou non) ses véhicules à enfreindre le code de la route ou les règles de sécurité.
Tesla n’est pas le seul fabricant à cacher ses informations de sécurité au public. Waymo poursuit le California DMV pour garder ses informations de sécurité secrètes. Ils ne veulent pas que le public sache ce que font leurs voitures dans des situations telles que le fait d’être en dehors de ses limites testées, les contraintes sous lesquelles fonctionne la technologie de conduite autonome et même les descriptions d’accidents impliquant ses voitures.
Ces points de données, cependant, sont essentiels pour que le public décide de la politique publique, et les agences officielles doivent être surveillées dans la façon dont elles gèrent les technologies émergentes. Cette surveillance ne peut pas se produire si les données sont conservées dans l’obscurité. Si nous voulons prendre des décisions publiques concernant les routes publiques, nous avons besoin des données mises à disposition afin de prendre des décisions éclairées.
