L’utilisation de techniques d’Intelligence Artificielle et notamment d’Apprentissage Automatique permet de réaliser des applications nouvelles dans de nombreux domaines. Cependant, la validation de ces applications pose de nombreuses questions : comment vérifier qu’un modèle appris n’est pas utilisé en dehors de son domaine de validité, qu’il n’est pas biaisé, et que son utilisation ne pose pas de problème conséquent en termes de fiabilité, de sécurité, ou d’équité ? L’objectif de cette demi-journée est d’expliciter les risques potentiellement encourus, leurs causes potentielles et les moyens disponibles pour s’en prémunir.

Dans un premier temps, trois représentants du monde industriel préciseront les risques potentiels, risques qui doivent recevoir une attention proportionnée à leur probabilité d’occurrence, l’étendue de leurs conséquences, et la capacité de détection de leur réalisation. Claude Le Pape (Schneider Electric) expliquera en quoi l’usage de modèles appris déplace les risques d’erreur, en atténue certains tout en en créant de nouveaux. En s’appuyant sur des exemples de traitement d’images, de sons, et de langage naturel écrit ou parlé, Patrick Pérez (Valéo) explicitera les limites de modèles construits uniquement à partir de données disponibles. Daniel Duclos (Safran Tech) résumera les problèmes de validation et de certification des applications de l’Intelligence Artificielle et montrera, à titre d’exemple, la feuille de route de l’Agence Européenne de la Sécurité Aérienne (EASA) dans ce domaine.

Dans un second temps, Julien Chiaroni (Directeur du Grand Défi « Sécuriser, certifier et fiabiliser les systèmes fondés sur l’Intelligence Artificielle ») présentera des éléments de méthodologie et des techniques de validation qui peuvent être mises en œuvre pour réduire les risques considérés, avec la présentation de travaux en cours par Rodolphe Gelin (Renault), Flora Dellinger (Valeo) et Morayo Adedjourna (CEA). Puis Guillaume Avrin nous montrera ce que le Laboratoire National de Métrologie et d’Essais met en œuvre dès aujourd’hui pour évaluer les applications et certifier les processus de conception, développement, test et maintenance de ses clients.

Le 20 janvier 2022 de 14h30 à 17h30 en visioconférence Teams

CLIQUEZ ICI POUR VOUS INSCRIRE