Un si long silence…
Red Flag : le danger, mortel, d’un principe de précaution mal utilisé - Deuxième partie

Red Flag : le danger, mortel, d’un principe de précaution mal utilisé - Première partie

 

AdS DPC Précaution S 46696494La France est l’un des seuls pays à avoir inscrit le principe de précaution dans sa constitution ; elle l’a fait en 2005, il y a plus de 10 ans.

Comme l’explique cet article du journal les Echos, ce principe de précaution ne sert à rien, juridiquement, mais paralyse l’innovation et l’initiative.

Face à la croissance exponentielle de la puissance des outils numériques, face à la croissance exponentielle des nouveaux usages rendus possibles par ces outils, le principe de précaution représente un danger mortel pour la France, s’il est appliqué « sans modération ».

Ce que je crains, ce que je constate dans trop d’entreprises, c’est que ce sont justement ces accélérations de l’innovation qui déclenchent des peurs irrationnelles ; la tentation est forte d’utiliser ce principe de précaution avec la douce illusion que l’on peut bloquer l’évolution des technologies.

 

Red Flag

L’un des exemples les plus anciens est le plus emblématique de ce principe de précaution est la loi « Red Flag », drapeau rouge, votée en Angleterre à la fin du 18e siècle, lorsque les premiers véhicules à moteur sont apparus.

Red Flag Law UK 1860 S

Cette loi, qui est restée en vigueur pendant plus de 30 ans, exigeait que tout véhicule à moteur soit précédé d’un homme, à pied, portant un drapeau rouge pour signaler que l’engin qui le suivait était porteur de dangers.

Je ne pense pas que cette loi ai fortement contribué à la croissance de l’industrie automobile en Angleterre…

Combien de lois ou de recommandations « Red Flag » seront promulguées en France au cours des cinq prochaines années ?

Une remarquable étude sur les usages du numérique dans le monde a été publiée par Hootsuite, début janvier 2018. J’en ai extrait cette page qui évalue l’optimisme numérique dans les pays étudiés ; la France fait partie du peloton de tête des plus… pessimistes ! Sur ce terreau craintif, il sera hélas facile de faire pousser des lois « Red Flag » anti innovations numériques.

Nos amis allemands sont encore plus mal classés ; leur remarquable résistance aux solutions Cloud Publics y trouve peut-être une explication…

Digital Optimism - France last

Etablir un inventaire de tous les domaines où le numérique joue un rôle et qui pourraient être touchés par des lois « Red Flag » serait fastidieux et déprimant.

J’ai préféré analyser trois thèmes importants :

  • Les véhicules autonomes ; sera traité dans la première partie.
  • L’intelligence Artificielle.
  • Les données personnelles.

Ces deux sujets seront abordés dans la deuxième partie de cette analyse.

 

Véhicules Autonomes

  Darpa Challenge carEn 2004, il y a 15 ans, DARPA (Defense Advanced Research Project Agency), organisme du DoD (Department of Defense), aux USA, a lancé un ambitieux projet, le Grand Challenge. Il récompensait les premiers véhicules sans conducteur qui seraient capables de se déplacer dans le désert.

Cet investissement de recherche a été remarquablement efficace ; après ce coup de pouce, d’immenses progrès ont été réalisés et des milliards de dollars ont été investis pour mettre sur les routes des voitures, taxis ou camions autonomes.

Avant de parler des risques « potentiels » que pourraient poser ces véhicules autonomes, il est important de rappeler quels sont les risques « actuels » des véhicules conduits par des humains.

  

Les assassins actuels de la route

Toutes les études sérieuses montrent qu’environ 90 % des accidents entraînant mort d’homme sont provoqués par des erreurs humaines. Les pays en émergence sont plus touchés que les pays développés.

Les chiffres sont accablants ; le nombre annuel de personnes tuées sur les routes :

  • 1 300 000 morts dans le monde.
  • 40 000 aux USA.
  • 3 500 en France.

Ces assassins de la route, ce sont des personnes « normales » qui commettent leurs crimes en conduisant :

  • Trop vite.
  • Sous l’emprise de l’alcool ou des drogues.
  • En utilisant un smartphone pour échanger des messages ou regarder des images ou des vidéos.

Rappel : un assassin est une personne qui a prémédité son crime ; c’est le cas d’une personne qui conduit en état d’ivresse ou droguée et qui sait très bien qu’elle présente un danger majeur pour la société.

Larry Page et Sergueï Brin, les fondateurs de Google, auraient décidé de se lancer dans la construction de véhicules autonomes quand ils ont découvert ce chiffre de 1,3 million de morts annuels sur les routes.

 

Niveaux d’autonomie des véhicules autonomes

 Cinq niveaux différents d’autonomie ont été définis ; ils vont du niveau 1, aucune autonomie, à 5, tous les occupants sont des passagers, il n’y a plus de conducteur.

En 2018, le niveau 3 est atteint par des voitures haut de gamme comme Audi ou Tesla.

Il y a deux grandes écoles de pensée qui s’opposent sur la meilleure manière de faire avancer les performances des véhicules autonomes :

  • La majorité des constructeurs traditionnels sont partisans d’une démarche progressive, en passant par les niveaux intermédiaires 3 et 4 avant d’arriver à 5.
  • Un petit nombre d’entreprises comme Google avec Waymo ou le français Navya proposent des véhicules qui sont immédiatement au niveau 5.

Je pense que le niveau 4, où le conducteur ne doit intervenir que dans des situations d’urgence, est plus dangereux que le niveau 5. Les rares accidents des véhicules au niveau 4 sont dus au fait que le conducteur « occasionnel » s’ennuie tellement qu’il n’est plus prêt à intervenir quand il le doit.

Des milliers d’articles ont été écrits sur un seul accident : une voiture niveau 4 d’Uber qui a tué une personne qui traversait de nuit une route. La responsabilité a été initialement attribuée à un mauvais réglage du logiciel.

Uber Driver Streaming the voiceLes enquêtes de police ont trouvé la cause principale de cet accident mortel ; l’analyse des usages de son smartphone a démontré que la conductrice qui était supposée surveiller la route pour intervenir en cas d’urgence… regardait l’émission « the voice » sur son smartphone depuis plus de 40 minutes !

Il n’y a pas encore eu, à ma connaissance, d’accidents mortels provoqués par des voitures de niveau 5. Il s’en produira certainement quelques-uns dans les mois ou années qui viennent.

Waymo Google 5 M miles drivenLes véhicules Waymo de Google avaient parcouru 5 millions de miles en mai 2017 et s’approchent aujourd’hui les 5 millions, sans aucun accident mortel. Ce chiffre est à comparer aux 3 000 000 millions de miles conduits par les Américains en 1 an, soit 1 million de fois plus. Il n’est pas encore possible d’établir une statistique sérieuse sur la réduction du nombre de morts ; on peut seulement établir quelques hypothèses.

Self driving cars will kill peopleEst-ce que les véhicules autonomes seront 10, 100 ou 1000 fois plus sûrs que les humains au volant ? Nul ne le sait, par contre il est certain qu’ils vont tuer des personnes, comme le rappelle cet article.

Les airbags, cités dans cet article, ont tué 200 personnes et sauvé 45 000 vies ; les premiers modèles d'airbags étaient imparfaits et la majorité des morts ont eu lieu au début. Ils ont un niveau d’efficacité supérieur à 200 ; le nombre de personnes sauvées est 200 fois supérieur à celui des tués.

Prenons l’hypothèse 100 fois moins de morts pour les véhicules autonomes ; cela veut dire qu’il y aura chaque année :

  • 400 morts causés par des véhicules autonomes aux Etats Unis, environ 1 par jour.
  • 35 morts causés par des véhicules autonomes en France, proche de 1 par semaine.

Est-ce que le « principe de précaution » acceptera un tel niveau de morts ? Est-ce que des lois « Red Flag » contre les véhicules autonomes ne seront pas votées si une dizaine de personnes sont tuées au cours des 2 ou 3 prochaines années ?

  

Deux approches pour réduire les morts sur les routes

La première considère que les véhicules autonomes ne sont pas la réponse ; il faut donc agir sur les assassins humains du volant. La levée de boucliers déclenchée par la réduction de la vitesse de 90 à 80 km/h sur les routes nationales, pour sauver environ 300 personnes, montre que nous ne sommes pas prêts à des lois « Red Flag » pour les humains.
AdS DPC Drunk driving S 55786554Ces lois « Red Flag » seraient pourtant très simples à écrire :

  • Conduite en état d’ivresse ou sous l’emprise de drogues : retrait immédiat du permis de conduire pendant 1 an. En cas de récidive dans les cinq ans, retrait définitif du permis de conduire et interdiction de le repasser pendant 10 ans.
  • Consultation de son smartphone au volant : retrait immédiat et définitif du permis de conduire et interdiction de le repasser pendant 5 ans.

Je ne suis pas certain que la population française est prête à accepter des règles aussi efficaces que contraignantes.

Ces lois pourraient au mieux espérer réduire à 1 500 personnes le nombre de morts sur les routes de France.

La deuxième approche consiste à promouvoir les véhicules autonomes de type 5 pour qu’ils deviennent la norme, le plus vite possible.

Renault autonome Genève 3:2018Cette loi « Red Flag » serait, elle aussi, facile à écrire :

  • Autorisation immédiate d’essais de véhicules autonomes de niveau 5, sur autoroutes et en ville en priorité. Généralisation des essais sur toutes les routes en 2021.
  • Interdiction de commercialiser des véhicules non autonomes de niveau 5 à partir de 2025.
  • Interdiction généralisée de conduire un véhicule à moteur pour tous les humains à partir de 2035.

Avec cette loi, on devrait réduire le nombre de morts à moins de 100 personnes par an sur les routes de France.

Ceci permettrait à tous les Français et Françaises de continuer à picoler, à se droguer ou à utiliser un smartphone pendant leurs déplacements.

De ces deux lois « Red Flag » quelle est celle que vous seriez prêt à soutenir ?

Dans la deuxième partie de ce billet, j’aborderai les thèmes intelligence artificielle et données personnelles.

 

 

Commentaires

Flux Vous pouvez suivre cette conversation en vous abonnant au flux des commentaires de cette note.

Bertrand Dubois

Bonjour Monsieur Naugès.

Ravi de vous retrouver à l'antenne, et ravi de me retrouver à l'écoute ...
Mais j'ai compris le pourquoi de votre silence ...

Une remarque sur les voitures automatiques :
Je ne sais pas, personnellement, si c'est un réel progrès.
Sans doute suis-je de ceux qui porteraient vite un Red Flag sur ce sujet, mais, en effet, il y a déjà eu des accidents mortels avec ces voitures ...
Tout va bien, l'erreur était humaine, ce n'est pas le software qui est en cause.

Mais je ne peux m'empêcher de penser à la situation suivante :
La voiture automatique arrive dans un virage serré, dans une route de campagne.
Quelqu'un traverse et n'a pas vu la voiture (et réciproquement).
La voiture n'a d'autre choix que :
- se déporter à gauche pour éviter le piéton et, malheureusement, une voiture arrive en sens inverse et l'accident est inévitable.
- se déporter à droite pour éviter la voiture et le piéton, mais elle va traverser le trottoir et une femme y marche avec son landeau et ses enfants
- continuer tout droit et donc frapper le piéton de plein fouet

Bel algorithme rempli d'intelligence artificielle (votre prochain thème).
Que faire ? Que programmer ? Quelle situation privilégier ?

Je n'aimerai pas être (au choix) le garagiste qui a vendu la voiture / le constructeur automobile / la société éditrice du software / le développeur / le responsable des recettes quand la famille du tué (peu importe qui) portera plainte contre ...
Au fait, contre qui diable la famille du défunt pourra-t-elle porter plainte ?

Voilà qui va nous permettre de nombreux débats d'experts, de juristes et d'assureurs pour savoir qui portera le chapeau.

Aujourd'hui, "tout va bien", la passagère regardait la télé au lieu de s'intéresser au minimum à ce qui se passe dehors.
Mais demain, quand tout sera encore plus automatisé ?

J'ai bien plus confiance au pilote automatique de l'avion, et qui reste de toute façon secondé par des pilotes humains, des professionnels, alors qu'une conductrice ou un conducteur ne sont pas des professionnels ...

Mais pet-être suis-je pessimiste sur ce genre de progrès ...

Bravo pour votre site que je lis très régulièrement, j'y apprends plein de choses !

Bien à vous,
BD

Louis Nauges

Bonjour, Bertrand, et un grand merci pour vos encouragements et vos questions.

C'est bien parce que le sujet est complexe que je pose ces questions sur les impacts de l'innovation.
Je reviens sur votre hypothèse d'accident :
- Oui, ce genre de situation va se produire ; c'est bien pour cela que je n'annonce pas zéro accident avec les voitures autonomes.
- C'est le genre de débat qui passionne les juristes, comme vous le faites remarquer.
Il est déjà arrivé souvent, avec des conducteurs humains, que des situations de ce type se produisent. On a vu des personnes créer un accident mortel en voulant éviter un animal.
- Un logiciel embarqué d'IA prendra une décision, oui ; elle sera par définition imparfaite mais probablement plus "rationnelle" que celle d'un humain.
- Il est probable que, dans plus de 50 % des cas, la voiture sera utilisée en "Voiture as a Service", propriété d'une entreprise du type Uber, que l'on aura commandé pour un déplacement particulier. Ce sera cette entreprise qui sera assurée.
- Pour les assureurs, ce sera une catastrophe car le nombre de contrats va être divisé par 10 ou plus, les accidents par 100 ou plus...

Vous faites aussi référence aux pilotes d'avion qui sont déjà en mode niveau 4. J'ai cru comprendre que l'accident AirFrance au Brésil a été provoqué par des pilotes qui n'avaient plus l'habitude de piloter dans ces conditions extrêmes et ont pris des mauvaises décisions.

Ce que je dirai dans la deuxième partie, en synthèse, c'est que l'on sera de plus en plus devant des choix complexes ; il faudra arbitrer entre des solutions imparfaites.

Bertrand Dubois

Bonjour Monsieur Naugès.

Merci pour votre réponse à laquelle je souscrits sans partage.

Et en effet, pour le vol AF 447 Rio-Paris, ce n'est pas le software qui est en cause, mais bien le fait (en plus des sondes Pitot défaillantes) que les pilotes n'aient pas, par manque d'entraînement, correctement réagi à des indications erronées (l’incohérence temporaire entre les vitesses mesurées), entraînant l’absence de diagnostic de la part de l’équipage de la situation de décrochage.

J'ai hâte de lire la suite de votre article et je prépare déjà mes remarques !

Je vous souhaite le meilleur pour votre livre !
Bertrand Dubois

Louis Nauges

@Bertrand
J'espère pouvoir publier la partie 2 au début de la semaine prochaine.

J'espère aussi ne pas vous décevoir...

Luc

Bonjour Louis,

Merci pour cet premier article sur la voiture autonome. J’attends la suite avec impatience!

Je crois revivre les premiers instants de l’Internet où on l’on y voyait qu’un simple outil de partage d’information et d’échange... Mais l’apparition de l’iPhone, fusion de l’Internet et du mobile, a tout changé: le commerce, la banque, la presse, l’artisanat (vitrine monde entier), la photo, le cinéma, la médecine, la formation, la cartographie, l’Etat (impôts, demande carte identité, passeport, ...), les entreprises (télétravail), etc...: tout à été révolutionné, et ce n’est pas fini.

La fusion de l’Internet, du mobile-radio et du mobile-véhicule va encore amplifier cette révolution.

Bien sûr, en premier lieu les taxis et les livraisons de marchandise.

Mais aussi les transports en commun: le système est par construction un transport en commun! Le train, le métro vont disparaître.

Les auto-écoles, les fabricants de radars vont disparaître...

Le tourisme va être chamboulé: la voiture, l’avion, le bateau viennent vous chercher et vous emmène dans votre mobile-home-autonome.

Les aéroports (tels que nous les connaissons) vont disparaître.

L’habitation va être chamboulée: le véhicule n’a plus besoin de poste de conduite, c’est uniquement un lieu de vie qui peut bouger tout seul. On peut y dormir, y travailler, voyager, ...: à quoi bon acheter une maison « fixe »? Une maison « mobile » peut suffire.

On pourra même avoir plusieurs pièces « mobiles », dont une « bureau » qui se détache et se déplace suivant les besoins.

Quelle autres secteurs seront concernés? A chacun de trouver.

Luc

Louis Nauges

@Luc
Merci et bravo pour votre enthousiasme et votre capacité d'anticipation des changements de société.

Sur le thème de la voiture autonome, des dizaines d'activités vont être chamboulés, dont ceux que vous évoquez.
Aujourd'hui, les voitures sont immobiles 95 % du temps. Avec des voitures autonomes électriques en libre service qui seraient utilisées 50 % du temps, le nombre de voitures sur les routes serait divisé par 10.

Vos idées sur les lieux de vie et de travail sont intéressantes ; est-ce que ce seront ces lieux qui se déplacent ou est-ce que l'on se déplacera vers eux ? Difficile de donner une réponse.

Toutes les lois qui s'appliquent aux véhicules conduits par des personnes devront être repensées ; dans quel sens, avec quelles contraintes ? C'est dans ce domaine aussi que le risque "Red Flag" existe.

FloydPaper

Bonjour Louis,

l'expérience montre clairement que lorsqu'une technologie est pratique et facilite, émancipe, elle est naturellement adoptée. Le red flag finit toujours par disparaître.

La seule limite aux technologies actuelles est la gestion de l'énergie et des ressources (matières premières).

La question du risque des accidents me semble absurde.
Il est flagrant que le comportement humain est bien plus risqué, sans prendre en compte la vitesse de décision, et de réaction...

Quant au lieu de travail, l'humain étant social par nature, les rencontres seront toujours souhaitées. On peut imaginer des véhicules qui automatiquement se rendent à un point de RDV optimum en fonction du point de départ de chaque personne afin de constituer un espace collaboratif.

Pour le plaisir de l'exercice de l'anticipation, on peut imaginer des véhicules autonomes qui circulent d'un besoin A à un besoin N en combinant la résolution du problème du marchand et le calcul des habitudes des différents usagers ayant un besoin.
Plus simplement : le véhicule "sait" que j'ai besoin de lui le matin à 8h30, tout comme 10 autres personnes ce jour là.
Donc je sors de chez moi, et sans me poser de question, je prends le véhicule en marche.
Se dessine une sorte de transport en commun modulaire et intelligent.
Avec à l'intérieur les services adaptés à la situation.
Le besoin peut être un déplacement professionnel, un voyage pour le week-end (réservation en ligne dans un hôtel), etc.
Comment se rendre où l'on souhaite ne serait plus une préoccupation.

Louis Nauges

@Floyd
Energie et matières premières sont des contraintes, oui ; les seules, que non !

Votre idée de voitures collaborative est excellente, et elle commence à être mise en œuvre, en particulier par Google. Par contre votre scénario est un peu trop simple et j'y ajouterai de l'Intelligence Artificielle pour faire sauter les contraintes d'horaires fixes.
L'allocation dynamique des véhicules pourra se faire de manière encore plus efficace.

L'utilisation des commentaires est désactivée pour cette note.