Renforcer la lutte contre les tentatives d’ingérence étrangère en ligne à l’aune de la démocratisation des outils d’IA générative  

COMMUNIQUE DE PRESSE

Paris, le 7 janvier 2025

N°15

Renforcer la lutte contre les tentatives d’ingérence étrangère en ligne à l’aune de la démocratisation des outils d’IA générative 

S’armer contre l’utilisation malveillante de l’IA à des fins d’ingérences numériques étrangères.

Dans un contexte toujours plus complexe où l’ingérence numérique étrangère à des fins de manipulation du débat public se fait via les réseaux sociaux, il est primordial d’armer notre pays et de renforcer les capacités de détection et de caractérisation de ces phénomènes. Si l’usage de l’intelligence artificielle reste encore marginal, son détournement à des fins malveillantes pourrait se généraliser.

Ainsi, les menaces identifiées aujourd’hui incluent majoritairement :

• la création de contenus faux crédibles à l’aide d’outils d’IA disponibles en source ouverte,
• la création et l’animation de comptes inauthentiques par des outils d’IA, capables de reproduire des comportements humains ,
• la diffusion massive, à vocation multi plateformes, de contenus manipulés.

Clara Chappaz continue de veiller à ce que tous les moyens nécessaires soient mobilisés pour contrer ces menaces, en priorisant la régulation des plateformes et le développement de solutions basées sur l’IA. Les plateformes sont par ailleurs tenues de respecter leurs obligations définies par le règlement européen sur les services numériques (DSA), notamment en matière de modération, de suppression des contenus de désinformation et de limitation de leur viralité. La ministre appelle dans ce cadre à une meilleure coopération et transparence avec les autorités françaises et européennes, notamment via un accès renforcé aux données et API des plateformes, afin de garantir une régulation efficace et protéger la démocratie.

Clara Chappaz souligne « Là où les menaces se présentent, chaque année, sous des formes de plus en plus difficiles à déceler, nous continuons d’adapter nos moyens de défense et de mobiliser toutes les ressources nécessaires à la lutte contre les tentatives d’ingérence numérique étrangère. Nous attendons des plateformes une coopération pleine et entière avec les autorités compétentes. Il en va de leur responsabilité au titre du DSA et de la protection de nos démocraties. »

Viginum, pôle d’excellence français unique au monde

Créé le 13 juillet 2021 auprès du Secrétaire général de la défense et de la sécurité nationale, le service de vigilance et de protection contre les ingérences numériques étrangères (Viginum) a pour raison d’être la protection du débat public numérique touchant aux intérêts fondamentaux de la Nation. Viginum est chargé d’une mission défensive : la détection et la caractérisation des ingérences numériques étrangères.

Disposant d’un cadre juridique et éthique strict, unique au monde, avec un cœur de métier reposant sur trois grandes compétences opérationnelles - l’analyse géopolitique, la science de la data et l’investigation numérique-, Viginum a documenté de nombreuses campagnes de manipulation de l’information depuis 2022.

Un exemple récent à l’occasion des Jeux Olympiques et Paralympiques de Paris 2024 :  le service a identifié 43 manœuvres informationnelles ayant ciblé l’événement, s’appuyant sur différents modes opératoires. Le 5 juin 2024, Viginum a par exemple détecté la diffusion d’une vidéo en langue étrangère avec des narratifs hostiles aux JOP24, affirmant notamment que la Seine serait « comparable au Gange ». Réalisée à l’aide de l’intelligence artificielle (IA), cette vidéo a été diffusée sur plusieurs plateformes de streaming vidéo.

« Partie intégrante des menaces hybrides, la manipulation de l’information orchestrée par des États ou des groupes d’opinion étrangers vise à déstabiliser nos démocraties en travestissant la vérité et en instrumentalisant les faits. Afin de détecter les ingérences numériques d’origine étrangère, la France s’est dotée en 2021 d’un service spécialisé, Viginum, placé au sein du SGDSN, sous l’autorité du Premier ministre », selon Stéphane Bouillon, secrétaire général de la défense et de la sécurité nationale.

Viginum est aujourd’hui un pôle d’excellence au sein de l'État, capable à la fois de caractériser les menaces représentées par l’IA en matière de manipulation de l’information, mais aussi de développer des outils d’IA au service de la détection de ces manœuvres malveillantes.

 Contacts presse :

Cabinet de Clara Chappaz : presse@cabinets.numerique.gouv.fr

Viginum : claire.benoit@sgdsn.gouv.fr - lea.surugue@sgdsn.gouv.fr