Compte-rendu de la séance thématique de l’Académie des technologies du 10 juillet 2024

Les pathologies de l’information, notamment les fake news ou désinformation, sont des manifestations anciennes, qui n’ont pas attendu l’essor des technologies numériques de de l’IA pour polluer l’espace informationnel. Toutefois le progrès technique a considérablement amplifié ces phénomènes, de telle façon que le « virus infox » se répand aujourd’hui sur Internet, d’autant plus facilement que les messages faux sont plus attractifs que les vrais et que l’objectif économique des grandes plateformes numériques est de maximiser les revenus publicitaires en ligne en accaparant l’attention des internautes.

Par construction même, et indépendamment des intentions de ses fournisseurs et de ses utilisateurs, l’IA générative constitue une poche potentielle de désinformation. En effet, l’architecture autorégressive des grands modèles de langage (LLMs), qui produisent en sortie un texte prolongeant le plus vraisemblablement un texte soumis en entrée, se prête à engendrer des hallucinations : lorsque le plus vraisemblable l’est insuffisamment, alors le rapport à la vérité se distend. En sus de cette carence structurelle, les LLMs présentent des biais dus à une non-neutralité de leurs bases d’entraînement, voulue ou non par leurs éditeurs.

L’examen des impacts de l’infox en ligne sur la formation des croyances et des opinions, ainsi que sur le comportement des citoyens et le fonctionnement de la démocratie, a fait couler beaucoup d’encre journalistique et suscité une abondante production scientifique. Certains se montrent très alarmistes, d’autres plus mesurés dans leurs conclusions. De l’ensemble de cette littérature, se dégagent deux constats importants. Premièrement la relation entre exposition à la désinformation et changement effectif d’attitude est à ce stade encore mal connue et réclame une poursuite des études. Deuxièmement, la désinformation en ligne s’intègre dans un ensemble plus vaste de manipulation des contenus, mettant notamment en jeu les médias traditionnels hors ligne, ainsi que les acteurs politiques. Bien qu’il soit encore trop tôt pour le savoir, l’arrivée de l’IA générative est susceptible de donner un coup d’accélérateur à la désinformation, en améliorant considérablement la qualité de « l’offre » de fakes.

À l’IA générative falsificatrice, répond fort heureusement une IA curatrice, fournissant de nombreux outils précieux pour la lutte contre la désinformation, qu’il s’agisse de débusquer des faux comptes coordonnés sur les réseaux sociaux, de détecter des contenus artificiels sur tous types de supports – photos, vidéos, sons, textes –, ou encore de prêter assistance aux professionnels de l’information, journalistes et fact checkers. Le développement de ces outils fait l’objet de programmes européens, notamment la plateforme vera.ai. Si les progrès effectués sont significatifs, l’entraînement des modèles de détection est néanmoins fâcheusement ralenti par l’insuffisance du financement et le manque de bases de données adaptées.

Relativement à d’autres régions du monde, l’Europe est en avance dans la construction d’un appareil juridique visant à éradiquer la désinformation en ligne et à promouvoir l’honnêteté de l’information. Paru en 2022 et confortant la loi française de 2018 contre la manipulation de l’information, dite loi infox, le Règlement européen sur les services numériques (Digital Services Act ou DSA), qui s’applique en France depuis le printemps 2024, impose aux plateformes d’effectuer une analyse de risques de désinformation et de mettre en oeuvre des mesures techniques et humaines pour les réduire. Par ailleurs le Règlement sur l’intelligence artificielle (AI Act), paru fin juillet 2024, contient plusieurs dispositions complétant celles du DSA. En matière de lutte contre les ingérences étrangères, le service VIGINUM a été créé en France en 2021 et rattaché au Secrétariat général de la défense et de la sécurité nationale (SGDSN) Si certains aspects – notamment en matière de sanctions applicables – gagneraient à être ajoutés au dispositif, nous disposons d’un cadre réglementaire pertinent, au service d’un enjeu démocratique fondamental : la confiance raisonnée des citoyens en leurs moyens d’information à l’ère numérique.

Lire le compte-rendu de la séance thématique