Sécurité des véhicules robots aux USA avec Chris Gerdes

Chris Gerdes est professeur de mécanique, directeur du Centre pour la Recherche Automobile (CARS)  et directeur du programme REVS à Stanford. Il est aussi passionné d'automobiles et un entrepreneur ; fondateur de Peloton.

Pourtant, dans la vidéo ci-dessous, il s'inspire surtout de son expérience au ministère des transports américain (USDOT) dont il fut le premier Chief Innovation Officer. Il y parle de la sécurité des véhicules autonomes et du cadre réglementaire. L'intérêt de son exposé tient au fait qu'il croise une excellent vision des enjeux réglementaires (aux USA au moins) avec une expertise technique.

Les expériences spectaculaires de Stanford

Il commence par évoquer Shelley l'Audi TTS autonome utilisée par Stanford pour approcher le comportement d'un pilote de course sur un anneau de vitesse ou l'incroyable DeLorean surnommée Marty qui réalise des dérapages contrôlés (des drifts) autonomes et très spectaculaires ! 

L'objectif de ces travaux universitaires (!) est de comparer les performances de robots et de conducteurs humains dans des cas de conduites "aux limites".

La certification des véhicules aux USA

Environ 7.30 minutes après le début, il présente les normes fédérales pour la sécurité des véhicules à moteur "FMVSS" en précisant qu'aucune certification n'est exigée aux USA avant la mise sur le marché d'un véhicule. Chaque constructeur assume lui même l'évaluation de ses véhicules  avant leur mise sur le marché, ces normes sont obligatoires, mais pas vérifiées ex-ante.
Il insiste sur le temps nécessaire (7 ans) pour faire évoluer ces normes et donc sur le décalage entre le temps des règles et celui des innovations.
Il estime (en s'appuyant sur un rapport de Volpe) que ces règles, bien qu'inadaptées, n'empêchent en rien la mise sur les routes de véhicules autonomes. Pour traiter les questions soulevées par ces nouveaux véhicules, USDOT a mis en place un cadre pour l'évaluation de la sécurité en 15 points (mise à jour par l'administration Trump en 2017).

La vision pour la sécurité des systèmes autonomes de transport
de la National Highway Traffic Safety Administration (NHTSA)

Ces points doivent être étudiés par les constructeurs. Il s'agit par exemple de bien définir le cadre d'exploitation du véhicule (ODD Operation Design Domain), de la détection d'objets et d'événements, des mécanisme de retour vers une situation sûre (fallback), etc.. Voici un rapide résumé des 12 points retenus dans la nouvelle version du document :

1. System Safety : l'approche "système" est mise en avant dès le titre du document (on parle d'ADS pour Autonomous Driving Systems) et il est fait référence de façon indicative aux pratiques et aux normes des secteurs de l'aviation, de l'espace et de la défense.
2. Operational Design Domain il doit au minimum porter sur le type de routes, les zones géographiques, les vitesses et conditions d'emploi (météo, visibilité...).
3. Object and Event Detection and Response qui distingue la conduite "normale" et les dispositions permettant d'éviter une collision. La conduite normale inclut notamment le respect du code de la route, mais aussi celui de "l'étiquette" et la capacité à éviter les comportements dangereux des autres véhicules.
4. Fallback (Minimal Risk Condition) qui couvre les modes permettant, lors de la détection d'un problème, de ce rapprocher d'une situation qui présente un minimum de risque.
5. Validation Methods différentes méthodes sont évoquées (tests sur pistes d'essai, conduite sur routes ouvertes, simulation...) mais aucune n'est particulièrement préconisée.
6. Human Machine Interface couvre, au sens large, les interactions avec les passagers y compris l'éventuel conducteur, les autres véhicules et les piétons et cyclistes, et le cas échéant, avec les opérateurs en charge de la supervision. Dans le cas des véhicules conçus pour être totalement autonomes, les interactions avec des utilisateurs présentant des déficiences physiques, perceptives ou cognitives doit être étudiées.
7. Vehicle Cybersecurity dans ce domaine la coopération entre les acteurs est encouragée pour partager les risques et les parades.
8. Crashworthiness : il est précisé que la réalisation de crash tests n'est pas obligatoire et que l'agence nationale ne demande pas accès aux résultats de ces tests lorsqu'ils sont réalisés;
9. Post-Crash ADS Behavior couvre la sécurité à l'issue d'un crash...
10. Data Recording il est nécessaire d'enregistrer les données du véhicules et d'être en mesure de les partager avec l'administration en cas d'accident.
11. Consumer Education and Training il s'agit notamment de bien informer les utilisateurs des bonnes conditions de fonctionnement des automatismes.
12. Federal, State, and Local Laws, les constructeurs doivent garder trace des démarches entreprises pour se conformer aux lois des différents états et aux règles locales...

Quels tests pour garantir la sécurité ? 

Il aborde ensuite la question de test. La simulation numérique lui semble apporter une couverture plus robuste que les tests  sur piste ou sur route ouverte. Pourtant, de nouveau, l'USDOT ne préconise pas un type de test sur les autres. En revanche, les systèmes programmés de façon déterministe et le système apprenant (IA) nécessitent probablement des approches différentes...

Un code de la route qui se fonde sur le bon sens des humains est il adapté aux  robots ?

Il conclut sur les questions relatives au "jugement" du conducteur. Le fameux dilemme du tramway, relève de questions morales souvent difficiles à trancher. Il doit aussi faire l'objet d'une approche plus pragmatique visant à développer toutes les mesures techniques qui permettent de limiter, voir d'éviter les défaillances qui conduisent au dilemme.
Plus que ce dilemme, c'est la question des règles (code de la route)  qui est pertinente. Ces règles sont conçues pour des conducteurs qui disposent de "bon sens" pour les interpréter et décider qu'il convient parfois de les contourner.
Ces règles peuvent poser problèmes si les véhicules robots sont programmés pour les respecter à la lettre.
Plutôt que d'obliger les robots à conduire "aussi mal" que les hommes, c'est donc, selon Chris Gerdes, une révision règles du code de la route qu'il faut entreprendre. Elle prendra en compte les capacités des robots au delà de celles des humains. En s'appuyant sur ses capacités techniques inaccessibles aux humains, le robot pourra atteindre un niveau de sécurité et de performance optimal.      

La conférence est suivie par une série de questions intéressantes.

Informatique quantique et révolution scientifique

Lorsque la "quantum supremacy" sera atteinte, certains problèmes totalement insolubles à l'aide de méthodes "digitales", vont pouvoir être résolus dans des temps suffisamment courts pour que cela ait un intérêt pratique. J'ai donné un exemple de problème de ce type dans l'article sur la cryptologie et l'informatique quantique.

En pratique, de très nombreux problèmes relèvent de cette catégorie et nous avons appris à vivre sans les résoudre...

Avec un ordinateur quantique, la résolution de certains de ces problèmes va ouvrir des voies de recherche nouvelles dans des domaines variés. La question de savoir quels problèmes vont pouvoir être résolus et lesquels resteront insolubles est assez ésotérique.  Pour faire simple, les ordinateurs quantiques vont rendre pratiquement possible la résolution de certains problèmes insolubles aujourd'hui mais il restera des problèmes inattaquables même avec des ordinateurs quantiques.

La chimie est un domaine emblématique d'application de l'informatique quantique. La modélisation les interactions entres atomes pourrait permettre de mieux comprendre le comportement de molécules et de mettre au point des réactions inconnues aujourd'hui. Cela permettra sans doute de synthétiser certains produits de façon plus efficace, de trouver de nouveaux médicaments ou de développer des matériaux totalement nouveaux....

Beaucoup de problèmes d'optimisation aujourd'hui insolubles sauf à petite échelle, pourraient être résolus. Des gains d'efficacité importants pourraient en résulter y compris dans le secteur des transports et de la logistique. Les problèmes classiques du voyageur de commerce et du sac à dos ont, par exemple, des solutions "efficaces" sur un ordinateur quantique. Ces problèmes "théoriques" se retrouvent naturellement dans l'optimisation de nombreux processus dans le secteur des transports.

Les algorithmes de "machine learning" pourraient aussi être améliorés et leur apprentissage accéléré... Comme il est, déjà, difficile de mesurer l'impact de l'intelligence artificielle dans nos vies et nos métiers, j'ai du mal à mesurer ce que cela pourrait permettre "en plus"...

Toujours en mathématique appliquée, on attend des avancées importantes pour certains modèles statistiques (par exemple pour les méthodes de Monte Carlo) qui ont, des applications variées dans de nombreux secteurs : finance, planification en général y compris pour la planification urbaine...

Les ordinateurs quantiques eux mêmes devraient voir leurs performances s'améliorer grâce au développement de nouveaux modèles et aux avancées réalisées dans le domaine de la modélisation des molécules...

Au delà de l'informatique, on envisage l'exploitation des phénomènes quantiques dans d'autres domaines et par exemple dans celui des télécommunications ou des systèmes de navigation... Plus précisément, l'intrication de deux états quantiques peut être réalisé entre deux particules distantes et permettre ainsi la transmission d'information entre  deux points distants de plusieurs centaines de kilomètres et ce de façon "immédiate" ! Les systèmes de navigation inertielle classiques pourraient être concurrencés par des systèmes quantiques beaucoup plus précis.

La "quantum supremacy" ne sera pas simplement un jalon dans l'histoire de l'informatique, cela devrait être le point de départ d'une nouvelle phase d'accélération de découvertes scientifiques. Toute la question est, maintenant, de savoir quand et surtout comment ce jalon va se matérialiser. L'accessibilité de ces technologies pourrait, par exemple, rester limitée à quelques entreprises ou à quelques pays pour des questions de prix ou de sécurité nationale.

Cet article est le quatrième (et dernier ?) d'une série sur l'informatique quantique.

Informatique quantique et cryptologie

La cryptologie est un domaine étrange dans lequel l'impossibilité de résoudre certains problèmes est utile... Ainsi, une grande partie des algorithmes de chiffrement commerciaux actuels (AES par exemple), notamment ceux qui sécurisent les échanges entre votre navigateur et les serveurs des sites internet, reposent sur l'impossibilité de factoriser un grand nombre en nombres premiers.

La décomposition d'un entier en nombres premiers est un problème trivial pour des nombres de 2 ou 3 chiffres (15= 3*5,  116=2*2*29). Elle devient rapidement longue dès que le nombre est grand. Un très grand nombre (1000 chiffres par exemple) pourrait nécessiter, pour être décomposé, des milliers d'années même en mobilisant toute la puissance de calcul digitale disponible... La sécurité de nos communications repose sur cette asymétrie entre une opération très rapide à réaliser : le produit de deux grands nombres, et sur son inverse, la décomposition d'un grand nombre en facteurs premiers qui elle est trop longue pour être pratiquée...

L'informatique quantique permet d'aborder le problème différemment. Plus précisément l'algorithme de Shor permet (permettrait puisque l'ordinateur qui permettra de le faire fonctionner n'existe pas encore) de factoriser de grands nombres dans un "temps polynomial". L'opération inverse devient accessible pour les longueur de clés de chiffrement actuellement utilisée et les secrets peuvent être trouvés...  

Une fois la "quantum supremacy" atteinte (voir l'article précédent), ces algorithmes seront, donc, obsolètes. Nous pourrons quasi instantanément déchiffrer les échanges précédemment chiffrés... Et cela pose de gros soucis à beaucoup de gens !

Les cryptologues travaillent dès aujourd'hui sur de nouveaux algorithmes de chiffrage "résistants à l'informatique quantique" (post quantum cryptography). De nouvelles normes de sécurité "post quantiques" sont, dès aujourd'hui, en cours d'évaluation par le NIST, l'institut des standards américains.

Ces nouveaux standards resteront compatibles avec nos PC "digitaux" mais elles ne seront attaquables ni à partir de PC digitaux ni à partir d'ordinateurs quantiques.

Derrière les enjeux commerciaux évoqués jusqu'ici, les technologies quantiques ont, bien entendu, des applications dans le domaine de la défense. Au delà de la course des industriels, les états et les services de cryptologies gouvernementaux sont aussi en compétition. Un rapport récent du CNAS (center for new american security) documente les avancées chinoises en matière d'informatique, mais aussi de télécommunications, de radars, de senseurs et de systèmes de navigation quantiques. Il estime que la domination stratégique des USA pourrait être menacée par l'ambition des programmes de recherche chinois. Ce rapport a, semble t il, incité la chambre de représentants à accélérer la R&D gouvernementale dans le domaine.

Cet article est le troisième d'une série sur l'informatique quantique.

Les ordinateurs quantiques existent déjà, mais bientôt ils seront utiles !

Au départ, les ordinateurs quantiques n'étaient qu'un concept théorique issu de la physique quantique. Dès les années 80, des chercheurs imaginent des algorithmes qui pourraient tirer parti des propriétés de superposition et d'intrication des états quantiques. La notion de qubit c'est à dire d'un élément d'information associé à un état quantique, qui peut faire l'objet d'opérations programmées  est née.

Ce n'est qu'à la fin des années 90 qu'une première paire de qubits  "valide la théorie" en réalisant un premier ensemble d'opérations en profitant d'un instant très court pendant lequel les qubits sont utilisables.... Une des difficultés majeure va-t-être de maintenir le qubit dans un état propice au calcul. Pour cela, sans rentrer dans le détail, il faut le maintenir à une température proche du zéro absolu, le protéger des rayonnements et malgré tout interagir avec lui... Bref, ces ordinateurs sont, pour le moment, des objets bien compliqués comme illustré ci dessous.

Ce sont ces obstacles que les scientifiques, puis les industriels vont résoudre progressivement. Les ordinateurs quantiques s'améliorent (voir cette "timeline du quantum computing"). Ils sont à la fois plus importants (plusieurs dizaines de qubits), ils restent stables plus longtemps (plusieurs dizaines de microsecondes), génèrent moins d'erreurs... Les véritables performances des différents ordinateurs existants sont assez difficiles à benchmarker. Le secret industriel est de mise car les investissements sont très importants.

Aujourd'hui, IBM et Microsoft (au moins) proposent même des ordinateurs quantiques (et/ou des simulateurs) utilisables en ligne. La réalité de leur performances est attestée par des publications scientifiques et par de nombreux travaux académiques. Atos, de son côté, commercialise un simulateur quantique permettant de développer dès aujourd'hui les algorithmes de demain et s'entoure d'un comité scientifique qui apporte un crédit certain aux messages commerciaux. 

Pourtant, pour le moment tout cela ne permet pas encore de résoudre un problème que nos ordinateurs classiques ne sauraient pas résoudre.

Une cinquantaine, peut être cent qubits avec une stabilité suffisante semblent nécessaires pour résoudre des problèmes réellement impossibles à résoudre avec des ordinateurs digitaux... Les chercheurs estiment que d'ici 3 à 5 ans, ces performances devraient être atteintes. Nous sommes donc relativement proches de cette frontière qu'on appelle "Quantum Supremacy", la date à laquelle un champs d'investigation nouveau s'ouvrira pour tous les scientifiques !

Bien entendu, la quantum supremacy ne va pas sonner le glas des ordinateurs digitaux actuels. Ils cohabiteront et collaboreront probablement, chacun restant dans son domaine de prédilection.

A ce stade,  il est utile de dire un mot de la société canadienne D-Wave puisqu'elle dispose dans son catalogue di D-Wave 2000Q qui propose 2000 Qubits. Sans chercher à arbitrer une controverse, je vous renvoie à leur page Wikipedia en français sur laquelle on comprend que les qubits de D-Wave  ne sont pas en mesure de réaliser toutes les opérations des qubits "classiques"  et sont optimisés pour un usage particulier. Cette limitation ne permet, par exemple pas, de traiter le problème de factorisation de grands entiers en nombre premier de façon efficace.

Cet article est le second d'une série d'article sur l'informatique quantique.

Se renseigner sur l'informatique quantique, c'est facile et nécessaire !

L'informatique quantique ne date pas d'hier et les observateurs les plus agés ont peut être l'impression qu'elle nous promets des lendemains qui chantent depuis des décennies... Et c'est un peu vrai ! mon conseil est néanmoins de vous (ré)intéresser à cette technologie aujourd'hui car les perspectives de mise en application sont proches (quelques années quand même) et tout à fait intéressantes !

Je vais essayer de vous en persuader au travers d'une série d'articles (le projet initial était un article unique, mais au fil de la rédaction, j'arrive à 4 articles au moins !).

• Le premier ici même porte sur les ressources accessibles en ligne. Elles vous permettent de vous faire en quelques heures une première idée de l'importance industrielle du sujet à partir des présentations de plusieurs grandes entreprises.
• Le second reviendra sur l'horizon temporel des premières applications réellement convaincantes et sur les difficultés à surmonter.
• Le troisième explorera les conséquences de l'apparition d'ordinateurs quantiques sur la cryptographie.
• Le dernier tentera de donner un aperçu du potentiel de cette technologie dans d'autres secteurs que celui de l'informatique.

Mais commençons par le commencement !
La bonne nouvelle est que le web regorge de ressources qui peuvent vous permettre de mieux appréhender les différentes facettes de l'informatique quantique. Les grands acteurs industriels investissent sur le hardware depuis des années. Aujourd'hui ils investissent aussi sur les logiciels qui tourneront sur ces ordinateurs et sur le développement des compétences nécessaires pour appliquer ces nouvelles capacités de calcul dans différents domaines... 

J'ai exploré quelques uns de ces liens et propose de les partager avec vous. Je suis bien entendu preneur d'autres sites, MOOC et tutoriaux sur le sujet !

• Atos propose des vidéos et un peu de contenu sur Atos Quantum. Ils témoignent de l'engagement de Thierry Breton, et de la création d'un comité scientifique rassemblant un impressionnant groupe de scientifiques français et européen de très haut niveau. Atos met, notamment, l'accent sur une offre de simulateurs quantiques permettant de développer dès aujourd'hui les algorithmes de demain.  
• Google propose  un ensemble de publications scientifiques et deux outils open source qui s'adressent à des lecteurs ayant déjà une connaissance du sujet.
• IBM est, au contraire, très didactique. Le site quantumexperience.ng.bluemix.net est une sorte de MOOC permettant de s'approprier progressivement les concepts généraux, puis de s'intéresser à la programmation en utilisant des outils mis à disposition par IBM. Un éditeur graphique permet de se familiariser avec les spécificités de la programmation quantique et de réaliser vos premiers essais sans avoir à investir sur un langage spécifique. Un kit de développement open source QISKit, des simulateurs, et un véritable ordinateur quantique disponibles gratuitement "on line" permettent d'aller plus loin.
• Microsoft propose aussi des ressources pédagogiques très complémentaires de celles d'IBM. Un Mirosoft Quantum Development Kit est disponible pour les courageux. Le langage s'appelle Q#, il est intégré dans Visual Studio et permet aussi d'accéder à des simulateurs.

En résumé et pour démarrer je vous conseille d'abord IBM et Miccrosoft.

En guise de conclusion j'ai retrouvé ce "cartoon" de XKCD qui rappelle que les fondamentaux du domaine restent extrêmement complexes et qui nous incite à la modestie !