Communiqué de presse - Paris, le 5 février 2025

Alors que Paris s’apprête à accueillir un sommet international pour l’action sur l’intelligence artificielle (10 et 11 février), l’Académie des technologies dévoile son nouveau rapport pour faire face aux dangers de la mésinformation amplifiée par l’IA générative. Développement d’un chatPedia au sein de l’Éducation nationale, mise en place d’un Observatoire de l’édition artificielle ou encore création d’un “score d’artificialité” : l’Institution dévoile six recommandations concrètes pour planter les graines d’une IA plus raisonnée. Elle donne rendez-vous au grand public le vendredi 14 février pour un webinaire dédié, animé par des académiciens experts.

Essor de l’IA générative : un contexte propice au développement des pathologies de l’information

Au mois de février, la France va battre au rythme de l’IA. Le Sommet pour l’Action sur l’Intelligence Artificielle réunira dans un premier temps chefs d’État, chercheurs, startups et grandes entreprises pour réfléchir à l’avenir de l’intelligence artificielle et encourager le développement d’une IA de confiance au service de l’intérêt général.

Ces dernières années, l’essor des technologies numériques et de l’IA a considérablement accru l’impact des pathologies de l’information. Aujourd’hui, elles se propagent à grande vitesse sur Internet, car les contenus faux, généralement plus attractifs que les vrais, sont encouragés par les modèles économiques des grandes plateformes numériques qui reposent sur l’attention des internautes. La thématique de la mésinformation-désinformation a d’ailleurs été classée pour la deuxième année consécutive au premier rang des risques systémiques mondiaux à court terme dans le rapport du Forum économique mondial.

C’est dans ce contexte stratégique que l’Académie des technologies formule six recommandations pour faire face aux dangers de la mésinformation amplifiée par l’IA générative. Ce nouveau rapport vise à renforcer la résilience de la société face aux fake news et à préserver la crédibilité de l’information. Il souligne par ailleurs les avancées de l’IA curative dans la lutte contre la désinformation et la construction d’un cadre réglementaire européen pionnier en la matière. Ces pathologies de l’information sont un phénomène ancien, mais l’essor des technologies numériques et de l’IA a considérablement accru leur impact.

Les six propositions de l’Académie des technologies

Pour établir une politique publique de lutte contre la désinformation, en mettant l’accent sur l’éducation, le renforcement de la régulation et l’amélioration des outils de détection, l’Académie des technologies recommande de :

• Développer un chatPedia au sein de l’Éducation nationale : un outil collaboratif co-utilisé et co-amélioré par les professeurs et les élèves, pour développer l’esprit critique et promouvoir l’éducation à l’IA.
• Construire un socle statistique du numérique et de ses impacts pour suivre et évaluer l’impact des pratiques en ligne, notamment sur les réseaux sociaux, sur les pratiques hors ligne qu’elles sont susceptibles d’influencer.
• Instaurer un Comité consultatif de l’information scientifique et technique placé auprès de l’Arcom et s’appuyant sur les experts des académies nationales, pour améliorer le traitement de ce type d’information par les médias audiovisuels et les réseaux sociaux.
• Mettre en place un Observatoire de l’édition artificielle pour analyser et rendre publics les biais des grands modèles de langage les plus populaires.
• Imposer aux grandes plateformes l’affichage d’un « score d’artificialité » pour informer sur l’origine et sur la véracité des contenus les plus viraux.
• Ajouter, dans le code de la Défense, un dispositif de sanctions des opérations de désinformation portant atteinte aux intérêts fondamentaux de la Nation et orchestrées par des puissances étrangères.

Points clés du rapport

• L’IA générative : une source potentielle de désinformation L’architecture autorégressive des grands modèles de langage (LLMs), qui produisent en sortie un texte prolongeant le plus vraisemblablement un texte soumis en entrée, se prête à engendrer des « hallucinations » : lorsque le plus vraisemblable l’est insuffisamment, alors le rapport à la vérité se distend. En plus de cette carence structurelle, les LLMs présentent des biais dus à la non-neutralité de leurs bases d’entraînement, voulue ou non par leurs éditeurs.
• L’IA curative : un espoir pour contrer les dérives Face à l’IA falsificatrice, une IA curative se développe, offrant des solutions pour contrer la désinformation. Des outils sont disponibles, notamment en Europe, avec la plateforme vera.ai, visant à détecter les faux comptes coordonnés sur les réseaux sociaux, à identifier les contenus artificiels et à assister les journalistes et fact checkers dans leurs vérifications.
• L’Europe, en avance en termes de régulation de l’information numérique Relativement à d’autres régions du monde, l’Europe est en avance dans la construction d’un appareil juridique visant à éradiquer la désinformation en ligne et à promouvoir l’honnêteté de l’information. Avec le Digital Services Act (DSA) et l’AI Act, cet appareil impose aux grandes plateformes une analyse de risques de désinformation et la mise en oeuvre des mesures techniques et humaines pour les réduire. Le service VIGINUM, créé en France en 2021 pour lutter contre les ingérences étrangères, vient renforcer le dispositif européen.

Un webinaire grand public pour ouvrir le débat

L’Académie des technologies donne rendez-vous le vendredi 14 février pour un webinaire consacré au sujet. Un événement gratuit, ouvert à toutes et à tous. Pendant 45 minutes, deux académiciens experts proposeront un décryptage du rapport, de manière simple et accessible. La présentation se conclura par un échange de 15 minutes avec le public.

L’occasion d’en savoir plus sur :

• la différence entre mésinformation, désinformation, malinformation…
• les effets de l’IA générative sur nos opinions, nos croyances et notre démocratie
• la lutte contre les fake news
• la réglementation.

L’échange sera animé par Manoelle Lepoutre, vice-présidente de l’Académie des technologies.

Présentation des deux académiciens experts :

• Joelle Toledano, professeure émérite associée à la Chaire « Gouvernance et Régulation » de l’Université Paris Dauphine- PSL, ancien membre de l’Arcep, et membre du conseil d’administration de startups du numérique, membre de l’Académie des technologies.
• Nicolas Curien, professeur émérite au Cnam (Conservatoire national des arts et métiers), ancien membre de l’Arcep et de l’Arcom, membre fondateur de l’Académie des technologies. Spécialiste de l’économie numérique, il intervient également comme speaker au Tech & Fest 2025 à Grenoble, dont l’Académie des technologies est partenaire, dans une table ronde dédiée à l’IA générative à l’heure des deepfakes.

INFORMATIONS PRATIQUES

Webinaire de la tech : “IA et mésinformation”
Gratuit et ouvert à toutes et tous : Vendredi 14 février 2025
11h30 (durée : 45 min + 15 min d’échange avec nos académiciens)