L’utilisation de techniques d’Intelligence Artificielle et notamment d’Apprentissage Automatique permet de réaliser des applications nouvelles dans de nombreux domaines. Cependant, la validation de ces applications pose de nombreuses questions : comment vérifier qu’un modèle appris n’est pas utilisé en dehors de son domaine de validité, qu’il n’est pas biaisé, et que son utilisation ne pose pas de problème conséquent en termes de fiabilité, de sécurité, ou d’équité ? L’objectif de ce webinaire organisé par l’Académie des technologies le 20 janvier 2022 était d’expliciter les risques potentiellement encourus, leurs causes potentielles et les moyens disponibles pour s’en prémunir.
Dans un premier temps, trois représentants du monde industriel ont précisé les risques potentiels, risques qui doivent recevoir une attention proportionnée à leur probabilité d’occurrence, l’étendue de leurs conséquences, et la capacité de détection de leur réalisation. Claude Le Pape (Schneider Electric) a expliqué en quoi l’usage de modèles appris déplace les risques d’erreur, en atténue certains tout en en créant de nouveaux. En s’appuyant sur des exemples de traitement d’images, de sons, et de langage naturel écrit ou parlé, Patrick Pérez (Valéo) a explicité les limites de modèles construits uniquement à partir de données disponibles. Daniel Duclos (Safran Tech) a résumé les problèmes de validation et de certification des applications de l’Intelligence Artificielle et montré, à titre d’exemple, la feuille de route de l’Agence Européenne de la Sécurité Aérienne (EASA) dans ce domaine.
Dans un second temps, Julien Chiaroni (Directeur du Grand Défi « Sécuriser, certifier et fiabiliser les systèmes fondés sur l’Intelligence Artificielle ») a présenté des éléments de méthodologie et des techniques de validation qui peuvent être mises en œuvre pour réduire les risques considérés. Puis Guillaume Avrin nous a montré ce que le Laboratoire National de Métrologie et d’Essais met en œuvre dès aujourd’hui pour évaluer les applications et certifier les processus de conception, développement, test et maintenance de ses clients.
