Opinion : La technologie de conduite autonome a besoin d’une réinitialisation – et voici à quoi elle ressemblerait
Le premier était le battement d’estomac que j’ai ressenti lorsque la berline bondée s’est propulsée sur une artère très fréquentée de San Jose, en Californie. C’était le même sentiment incontrôlable que j’ai lorsqu’une montagne russe dans laquelle je venais d’être enfermé se mettait en branle, titubant vers le ciel.
Et la deuxième chose était à quelle vitesse nous, les passagers, sommes passés de pétrifiés par la technologie à ennuyés, à la recherche de conversations et d’autres choses plus intéressantes pour occuper notre attention.
Nous avons été littéralement conduits à la distraction. Ce qui est un défaut clairement humain.
Lire: Les véhicules électriques gagnent du terrain, mais il y a de fortes chances que vous conduisiez toujours une voiture à essence en 2035
Les ordinateurs, en revanche, ne sont pas maudits par cette affliction. Ils sont particulièrement qualifiés pour balayer la route sans fin, avec la même intensité perçante et efficace. Quelle que soit la durée et le déroulement du trajet, quelle que soit la fréquence de la réponse requise, les ordinateurs sont toujours prêts. Plus important encore, ils sont toujours la même quantité de prêt. Ils ne se fatiguent pas. Ils ne se laissent pas distraire.
Et pourtant, malgré toute leur capacité de concentration inébranlable, les véhicules autonomes présentent mal les conditions de circulation venant en sens inverse avec une régularité suffisamment préoccupante pour déclencher une enquête fédérale. En août, un bureau de la National Highway Traffic Safety Administration a décidé d’enquêter sur 11 accidents où Tesla TSLA,
les véhicules se sont dirigés vers les scènes des premiers intervenants, empilant une nouvelle urgence sur une urgence déjà en cours de nettoyage.
Si des humains avaient conduit pendant l’un de ces accidents, ils auraient instantanément caractérisé la situation et auraient réagi en conséquence. A condition, bien sûr, qu’ils fassent attention.
Cette semaine, la NHTSA a exigé les mêmes données que Tesla doit fournir aux bureaux américains d’une douzaine de constructeurs automobiles supplémentaires avec des véhicules qui « contrôlent à la fois la direction et le freinage/l’accélération simultanément dans certaines circonstances ». Les constructeurs automobiles : BMW BMW,
General Motors GM,
Honda HMC,
Hyundai, Kia, Mercedes-Benz DAI,
Nissan, Stellantis STLA,
Toyota MC,
et Volkswagen VOW3,
En apparence, les données aideraient les autorités fédérales à évaluer comment le pilote automatique de Tesla se compare au reste de l’industrie. Ou les demandes pourraient signaler le début d’une enquête plus large sur l’état de la technologie de conduite autonome.
J’espère que c’est ce dernier. La technologie de conduite autonome continue de s’améliorer. Mais il ne sera jamais aussi bon que nous dans certaines choses. Parce que les modèles sont construits sur des objectifs imparfaits. La technologie a donc besoin d’une réinitialisation avant que les entreprises ne poussent l’IA dans de nouveaux domaines, comme l’entreprise de robo-taxi potentiellement très rentable.
N’engagez jamais un humain pour faire le travail d’un ordinateur – ou vice versa
À première vue, combiner la capacité d’attention illimitée de l’IA à notre capacité à évaluer rapidement et avec précision les nouvelles situations permet d’améliorer et de sécuriser l’expérience de conduite de nouvelle génération.
Sauf que l’industrie va dans le sens inverse. Plutôt que d’unir nos forces, les développeurs sont déterminés à enseigner à l’IA comment mieux repérer les dangers et exigent que nous y prêtions plus d’attention.
Vous voyez, les développeurs approchent de l’autonomie avec un état d’esprit de force brute selon lequel si suffisamment de véhicules remplis de mini-centres de données d’apprentissage en profondeur parcourent suffisamment de kilomètres sur suffisamment de routes, la technologie sera finalement prête à tout reconnaître. À cette tâche impossible sisyphéenne s’ajoute le fait que tout le monde n’y travaille pas ensemble. Au contraire, de multiples efforts de duplication sont en cours, chacun motivé par un désir concurrentiel de dominer l’intelligence routière.
Mais seuls ou ensemble, ils ne réussiront pas – ne peuvent pas réussir – pour la raison douloureusement évidente qu’il y aura toujours une combinaison précédemment non enregistrée de faisceau de lampe de poche, de réflexion de bande de police, de sirène et de phase de lune que l’IA pourrait confondre avec un tout. intersection claire. Et ceux dans le monde de la conduite autonome le savent. Car leur but n’est pas d’éliminer les accidents, mais de les éviter au moins aussi souvent que les humains.
Ce n’est pas une façon d’exécuter une interruption.
Le rouage le plus ridicule de toute la boîte de vitesses à autonomie est peut-être que la loi de la dernière chance nette repose toujours sur nos épaules. Pourquoi ne nous confiez-vous pas la responsabilité d’activer les airbags lors de l’impact pendant que vous y êtes ? Nous ne sommes pas très doués pour garder les yeux sur la route lorsque nous conduisons réellement le véhicule. Enlevez ça et vous avez effectivement mis notre cerveau sur le siège passager.
Nous avons cet arrangement qui vous gratte la tête car, selon les normes de l’industrie, le pilote automatique de Tesla n’est pas assez avancé pour assumer l’entière responsabilité. Sur le spectre entre la navigation manuelle et le niveau 5 – le jargon de l’industrie pour une autonomie totale – le pilote automatique n’est que la technologie de niveau 2, qui est définie comme un système avec plus d’une fonction d’assistance au conducteur avancée, comme le régulateur de vitesse adaptatif, l’assistance au freinage et le centrage de voie .
Compte tenu de sa place dans la hiérarchie, le niveau 2 implique que le pilote automatique est loin d’être autonome. Mais lorsque vous montez dans une voiture qui peut accélérer, ralentir et rester dans sa voie, on a vraiment l’impression que c’est elle qui conduit. En plus, ça s’appelle Autopilot, non ? Droit?
Repenser les véhicules autonomes
Avec quelques ajustements à la hiérarchie de prise de décision, la technologie des véhicules autonomes et les humains ont le potentiel de constituer une puissante combinaison de conduite. Cédez le contrôle à l’IA pour de longs et ennuyeux directs. Ne nous forcez pas à garder les mains sur le volant. Laissez-nous discuter, rire – même regarder des vidéos ou pour nous garder alertes et divertis.
L’IA a le potentiel de nous surpasser sur des tâches ennuyeuses où la constellation de dangers possibles est beaucoup plus gérable, comme le trafic stop-and-go et le stationnement parallèle. Avec les voitures directement devant et derrière servant de garde-corps situationnels, il est difficile d’imaginer, par exemple, que l’IA nous guiderait un jour à travers une équipe de premiers intervenants.
Tout cela pour dire que les développeurs devraient laisser l’autonomie gérer la monotonie. Et nous engager au moindre changement de paysage. Ralentissez ou même arrêtez-vous jusqu’à ce que l’humain se concentre et prenne le contrôle – ce qui, soit dit en passant, ne devrait pas prendre longtemps car nous sommes généralement à notre meilleur lorsque quelque chose nous met en mode d’auto-préservation.
Nous conduirons jusqu’à ce que nous ayons dépassé l’incertitude en toute sécurité. Ensuite, l’IA peut reprendre le dessus. Et nous pouvons revenir à notre fil Twitter.
Avec cet arrangement, l’IA a le potentiel de rendre la conduite automobile sur de longues distances beaucoup plus agréable au goût, car nous ne serions appelés à conduire que sur de courts intervalles. Attendez-vous à beaucoup de faux positifs, c’est-à-dire à des situations pour lesquelles l’IA nous a engagés pour quelque chose qui s’est avéré être rien, comme un panneau froissé qui ressemble vaguement à un grand piéton mince et penché. Ce n’est pas grave, car en même temps, nous fermerions la porte aux faux négatifs.
Une telle construction effacerait de nombreux modèles commerciaux de robots-taxi, qui doivent éliminer les conducteurs humains pour réduire les coûts. Les entreprises et les municipalités pourraient potentiellement limiter le risque de conducteurs d’IA en solo en limitant le service de taxi robotique à, par exemple, des rues et des itinéraires spécifiques les jours ensoleillés. Mais alors que vous pouvez limiter le potentiel de danger, vous ne pouvez pas l’éliminer. Parce que tant que l’IA évaluera les dangers de la conduite, elle passera à côté de certaines choses que nous aurions détectées.
AI ou non, il y aura toujours des accidents. Mais ce n’est pas une raison pour accepter une technologie qui introduit une toute nouvelle classe de plantages alors qu’elle en réduit les autres.
Et ce n’est pas une théorie non prouvée. Il existe un précédent pour tirer parti de l’IA et des forces humaines pour faire progresser l’état de l’art dans une myriade d’autres domaines, de la radiologie au service forestier.
Espérons que les développeurs de technologies de conduite autonome y prêtent attention. Mais cela ne me surprendrait pas s’ils ne le sont pas. Ils sont humains, après tout. Et la durée d’attention n’est pas notre meilleur attribut. Pas de loin.
Mike Feibus est président et analyste principal de FeibusTech, une société d’études de marché et de conseil. Contactez-le à mikef@feibustech.com. Suivez-le sur Twitter @MikeFeibus. Il ne détient pas directement d’actions des sociétés mentionnées dans cette colonne.