Comment l’IA est utilisée pour désinformer ?

Fausses vidéos de soldats ukrainiens qui semblent rendre les armes face à la Russie… Faux profils de journalistes sur YouTube… L'intelligence artificielle est aujourd'hui au cœur des opérations d'ingérence, qu’elle a rendues plus rapides, moins coûteuses, et plus difficiles à détecter. Mais, il existe des solutions ! On t'explique tout dans cette vidéo 👇.

Utilisation de l'intelligence artificielle dans les ingérences étrangères

Truquer des images, ce n’est pas nouveau. Mais avec l’IA générative, les fausses vidéos se sont multipliées sur les réseaux sociaux. Dans leurs versions les plus abouties, elles permettent d'imiter l'apparence et la voix d'une personnalité, pour lui faire dire ce qu'elle n'a jamais dit, brouillant toujours plus la frontière entre le vrai et le faux. On parle alors de deepfakes ou d’hypertrucages.
► Exemple en mars 2022, avec le président ukrainien Volodymyr Zelensky. Au tout début de la guerre Russie-Ukraine, une vidéo le montre s’adressant à ses soldats pour leur annoncer sa démission. Or Volodymyr Zelensky n’a jamais prononcé ce discours...
🔎Quelques indices permettent de reconnaître les trucages : la voix est très grave, légèrement métallique, la tête est anormalement grande par rapport au corps, et les mouvements sont parfois saccadés. L’auteur de ce deepfake n’a jamais été clairement identifié. En réponse, le président ukrainien a mis en ligne une vidéo de démenti.

IA et amplification de la désinformation

Ce que veulent surtout les créateurs de fausses informations, c’est que leurs publications deviennent virales et qu’elles soient reprises par les autorités, par exemple, ou par des médias reconnus ! Là encore, l’IA est bien pratique pour des acteurs mal intentionnés ! Elle leur permet de créer plein de comptes qui postent et repostent les mêmes contenus pour les amplifier de manière artificielle.

► Exemple : un article de propagande russe qui accuse les autorités américaines de censurer ceux qui ne sont pas d’accord avec la politique du président Donald Trump au Moyen-Orient. Sur X, le réseau social d’Elon Musk, des robots partagent massivement l’article pour tenter de le faire buzzer, avec à chaque fois, des comptes différents.

L'IA peut-elle aussi servir à nous protéger ?

Oui ! Si l'IA est une arme, elle peut aussi être un rempart. Viginum, le service de l'État chargé de détecter les ingérences numériques étrangères, l'utilise pour créer des outils permettant de mieux repérer les opérations de déstabilisation. L’IA permet notamment d’identifier des posts dont le contenu a été massivement copié-collé sur les réseaux sociaux. Mais lutter contre la désinformation peut aussi être l’affaire de tous.

• Sur Internet, il existe des outils en libre accès, comme le détecteur de l'Agence France-Presse, pour reconnaître les images générées par intelligence artificielle.
• En France, un collectif d’ingénieurs bénévoles a même créé Vera, une IA qui permet de vérifier les informations en cas de doute. Elle s’appuie sur des articles de presse et répond aux questions par téléphone ou sur WhatsApp.

Mais difficile d’avoir le réflexe à chaque fois. 💡Le mieux, c’est de réussir à trouver des sources de confiance et d’y vérifier vos infos.

👉 Découvre toutes les vidéos de la série Comprendre les ingérences étrangères.