Red Flag : le danger, mortel, d’un principe de précaution mal utilisé - Première partie

 

La France est l’un des seuls pays à avoir inscrit le principe de précaution dans sa constitution ; elle l’a fait en 2005, il y a plus de 10 ans.

Comme l’explique cet article du journal les Echos, ce principe de précaution ne sert à rien, juridiquement, mais paralyse l’innovation et l’initiative.

Face à la croissance exponentielle de la puissance des outils numériques, face à la croissance exponentielle des nouveaux usages rendus possibles par ces outils, le principe de précaution représente un danger mortel pour la France, s’il est appliqué « sans modération ».

Ce que je crains, ce que je constate dans trop d’entreprises, c’est que ce sont justement ces accélérations de l’innovation qui déclenchent des peurs irrationnelles ; la tentation est forte d’utiliser ce principe de précaution avec la douce illusion que l’on peut bloquer l’évolution des technologies.

 

Red Flag

L’un des exemples les plus anciens est le plus emblématique de ce principe de précaution est la loi « Red Flag », drapeau rouge, votée en Angleterre à la fin du 18e siècle, lorsque les premiers véhicules à moteur sont apparus.

Cette loi, qui est restée en vigueur pendant plus de 30 ans, exigeait que tout véhicule à moteur soit précédé d’un homme, à pied, portant un drapeau rouge pour signaler que l’engin qui le suivait était porteur de dangers.

Je ne pense pas que cette loi ai fortement contribué à la croissance de l’industrie automobile en Angleterre…

Combien de lois ou de recommandations « Red Flag » seront promulguées en France au cours des cinq prochaines années ?

Une remarquable étude sur les usages du numérique dans le monde a été publiée par Hootsuite, début janvier 2018. J’en ai extrait cette page qui évalue l’optimisme numérique dans les pays étudiés ; la France fait partie du peloton de tête des plus… pessimistes ! Sur ce terreau craintif, il sera hélas facile de faire pousser des lois « Red Flag » anti innovations numériques.

Nos amis allemands sont encore plus mal classés ; leur remarquable résistance aux solutions Cloud Publics y trouve peut-être une explication…

Etablir un inventaire de tous les domaines où le numérique joue un rôle et qui pourraient être touchés par des lois « Red Flag » serait fastidieux et déprimant.

J’ai préféré analyser trois thèmes importants :

• Les véhicules autonomes ; sera traité dans la première partie.
• L’intelligence Artificielle.
• Les données personnelles.

Ces deux sujets seront abordés dans la deuxième partie de cette analyse.

 

Véhicules Autonomes

  En 2004, il y a 15 ans, DARPA (Defense Advanced Research Project Agency), organisme du DoD (Department of Defense), aux USA, a lancé un ambitieux projet, le Grand Challenge. Il récompensait les premiers véhicules sans conducteur qui seraient capables de se déplacer dans le désert.

Cet investissement de recherche a été remarquablement efficace ; après ce coup de pouce, d’immenses progrès ont été réalisés et des milliards de dollars ont été investis pour mettre sur les routes des voitures, taxis ou camions autonomes.

Avant de parler des risques « potentiels » que pourraient poser ces véhicules autonomes, il est important de rappeler quels sont les risques « actuels » des véhicules conduits par des humains.

  

Les assassins actuels de la route

Toutes les études sérieuses montrent qu’environ 90 % des accidents entraînant mort d’homme sont provoqués par des erreurs humaines. Les pays en émergence sont plus touchés que les pays développés.

Les chiffres sont accablants ; le nombre annuel de personnes tuées sur les routes :

• 1 300 000 morts dans le monde.
• 40 000 aux USA.
• 3 500 en France.

Ces assassins de la route, ce sont des personnes « normales » qui commettent leurs crimes en conduisant :

• Trop vite.
• Sous l’emprise de l’alcool ou des drogues.
• En utilisant un smartphone pour échanger des messages ou regarder des images ou des vidéos.

Rappel : un assassin est une personne qui a prémédité son crime ; c’est le cas d’une personne qui conduit en état d’ivresse ou droguée et qui sait très bien qu’elle présente un danger majeur pour la société.

Larry Page et Sergueï Brin, les fondateurs de Google, auraient décidé de se lancer dans la construction de véhicules autonomes quand ils ont découvert ce chiffre de 1,3 million de morts annuels sur les routes.

 

Niveaux d’autonomie des véhicules autonomes

 Cinq niveaux différents d’autonomie ont été définis ; ils vont du niveau 1, aucune autonomie, à 5, tous les occupants sont des passagers, il n’y a plus de conducteur.

En 2018, le niveau 3 est atteint par des voitures haut de gamme comme Audi ou Tesla.

Il y a deux grandes écoles de pensée qui s’opposent sur la meilleure manière de faire avancer les performances des véhicules autonomes :

• La majorité des constructeurs traditionnels sont partisans d’une démarche progressive, en passant par les niveaux intermédiaires 3 et 4 avant d’arriver à 5.
• Un petit nombre d’entreprises comme Google avec Waymo ou le français Navya proposent des véhicules qui sont immédiatement au niveau 5.

Je pense que le niveau 4, où le conducteur ne doit intervenir que dans des situations d’urgence, est plus dangereux que le niveau 5. Les rares accidents des véhicules au niveau 4 sont dus au fait que le conducteur « occasionnel » s’ennuie tellement qu’il n’est plus prêt à intervenir quand il le doit.

Des milliers d’articles ont été écrits sur un seul accident : une voiture niveau 4 d’Uber qui a tué une personne qui traversait de nuit une route. La responsabilité a été initialement attribuée à un mauvais réglage du logiciel.

Les enquêtes de police ont trouvé la cause principale de cet accident mortel ; l’analyse des usages de son smartphone a démontré que la conductrice qui était supposée surveiller la route pour intervenir en cas d’urgence… regardait l’émission « the voice » sur son smartphone depuis plus de 40 minutes !

Il n’y a pas encore eu, à ma connaissance, d’accidents mortels provoqués par des voitures de niveau 5. Il s’en produira certainement quelques-uns dans les mois ou années qui viennent.

Les véhicules Waymo de Google avaient parcouru 5 millions de miles en mai 2017 et s’approchent aujourd’hui les 5 millions, sans aucun accident mortel. Ce chiffre est à comparer aux 3 000 000 millions de miles conduits par les Américains en 1 an, soit 1 million de fois plus. Il n’est pas encore possible d’établir une statistique sérieuse sur la réduction du nombre de morts ; on peut seulement établir quelques hypothèses.

Est-ce que les véhicules autonomes seront 10, 100 ou 1000 fois plus sûrs que les humains au volant ? Nul ne le sait, par contre il est certain qu’ils vont tuer des personnes, comme le rappelle cet article.

Les airbags, cités dans cet article, ont tué 200 personnes et sauvé 45 000 vies ; les premiers modèles d'airbags étaient imparfaits et la majorité des morts ont eu lieu au début. Ils ont un niveau d’efficacité supérieur à 200 ; le nombre de personnes sauvées est 200 fois supérieur à celui des tués.

Prenons l’hypothèse 100 fois moins de morts pour les véhicules autonomes ; cela veut dire qu’il y aura chaque année :

• 400 morts causés par des véhicules autonomes aux Etats Unis, environ 1 par jour.
• 35 morts causés par des véhicules autonomes en France, proche de 1 par semaine.

Est-ce que le « principe de précaution » acceptera un tel niveau de morts ? Est-ce que des lois « Red Flag » contre les véhicules autonomes ne seront pas votées si une dizaine de personnes sont tuées au cours des 2 ou 3 prochaines années ?

  

Deux approches pour réduire les morts sur les routes

La première considère que les véhicules autonomes ne sont pas la réponse ; il faut donc agir sur les assassins humains du volant. La levée de boucliers déclenchée par la réduction de la vitesse de 90 à 80 km/h sur les routes nationales, pour sauver environ 300 personnes, montre que nous ne sommes pas prêts à des lois « Red Flag » pour les humains.
Ces lois « Red Flag » seraient pourtant très simples à écrire :

• Conduite en état d’ivresse ou sous l’emprise de drogues : retrait immédiat du permis de conduire pendant 1 an. En cas de récidive dans les cinq ans, retrait définitif du permis de conduire et interdiction de le repasser pendant 10 ans.
• Consultation de son smartphone au volant : retrait immédiat et définitif du permis de conduire et interdiction de le repasser pendant 5 ans.

Je ne suis pas certain que la population française est prête à accepter des règles aussi efficaces que contraignantes.

Ces lois pourraient au mieux espérer réduire à 1 500 personnes le nombre de morts sur les routes de France.

La deuxième approche consiste à promouvoir les véhicules autonomes de type 5 pour qu’ils deviennent la norme, le plus vite possible.

Cette loi « Red Flag » serait, elle aussi, facile à écrire :

• Autorisation immédiate d’essais de véhicules autonomes de niveau 5, sur autoroutes et en ville en priorité. Généralisation des essais sur toutes les routes en 2021.
• Interdiction de commercialiser des véhicules non autonomes de niveau 5 à partir de 2025.
• Interdiction généralisée de conduire un véhicule à moteur pour tous les humains à partir de 2035.

Avec cette loi, on devrait réduire le nombre de morts à moins de 100 personnes par an sur les routes de France.

Ceci permettrait à tous les Français et Françaises de continuer à picoler, à se droguer ou à utiliser un smartphone pendant leurs déplacements.

De ces deux lois « Red Flag » quelle est celle que vous seriez prêt à soutenir ?

Dans la deuxième partie de ce billet, j’aborderai les thèmes intelligence artificielle et données personnelles.