Deepfake : une technologie basée sur l’IA aux dérives inquiétantes

DeepFace App de Facebook fait partie des dizaines de services basés sur l’intelligence artificielle qui utilisent le visage d’une personne pour le mettre sur le corps d’une autre personne. Cette pratique a un nom : le deepfake. Bien qu’il trouve une utilité dans le domaine des jeux vidéo et du cinéma, le deepfake est souvent utilisé à mauvais escient. Les personnalités connues en sont souvent la cible. Leur visage est détourné à l’aide d’un algorithme sophistiqué pour faire dire des propos et des actes compromettants. Des personnes mal intentionnées s’en servent pour ruiner la réputation d’une personne, usurper son identité, réaliser une campagne de désinformation, etc. En France, l’utilisation de cette technologie est désormais encadrée par la loi.

Le deepfake est un contenu audio, vidéo ou photo très réaliste, qui s’avère être faux. Le mot provient de la combinaison de « deep learning » et « fake » en anglais. Cela signifie que les auteurs s’appuient sur l’intelligence artificielle pour modifier un visage ou une voix. Le résultat est impressionnant puisqu’il est presque impossible d’identifier le trucage.

À l’origine, le deepfake était utilisé à des fins professionnelles ou humoristiques : les applications de face swap, les filtres sur les réseaux sociaux, la création des mèmes, etc. Néanmoins, cela n’empêche pas certains auteurs de les utiliser à des fins malveillantes comme la diffusion de fausses informations, la création de vidéos pornographiques, etc.

C’est ce côté malveillant du deepfake qui a fait connaître la technologie auprès du grand public. En 2017, un utilisateur de Reddit a créé plusieurs vidéos pour adultes avec le visage de célébrités féminines. Cet auteur a utilisé le pseudonyme « deepfakes ».

Un deepfake est créé à l’aide d’un algorithme très sophistiqué. Plusieurs techniques permettent de créer une photo ou une vidéo à l’instar de :

• « lip sync » : cette technique permet de réaliser une synchronisation labiale afin d’obtenir un contenu vocal proche de la réalité. Elle est utilisée pour le doublage des personnages dans une autre langue par exemple.
• « face to face » : cette technique est utilisée pour faire dire à une personne des propos qui n’ont jamais existé.
• « face swap » : elle consiste à transposer le visage d’une personne, souvent une célébrité, sur un autre corps.

Plusieurs applications et plateformes en ligne permettent actuellement de réaliser un deepfake à l’instar de Doublicat, Deepfakes web ou encore Face Swap.

Les visages de Jim Carrey et Jack Nicholson sur le même corp

L’éditeur américain Sensity recense en 2019 plus de 15 000 deepfakes. Ce chiffre a sûrement évolué depuis. Plusieurs secteurs, notamment le cinéma, utilisent le deepfake. Cela n’empêche pas les usages à des fins malveillantes.

La motivation de la majorité des créateurs est financière. C’est le cas notamment des contenus pornographiques. Ils produisent des contenus qui sont ensuite consommés sur des plateformes pour adultes.

Les deepfakes sont également créés pour humilier et ruiner la réputation d’une personne, qu’elle soit célèbre ou non.

Néanmoins, ce que les autorités craignent le plus est le risque de désinformation. Le deepfake peut être utilisé pour diffuser de fausses informations. En Nouvelle-Zélande, le Parti national a utilisé l’intelligence artificielle comme arme politique pendant les élections.

Le deepfake est utilisé dans le domaine des jeux vidéo pour animer les personnages. Au cinéma, il permet également de rajeunir un personnage par exemple. Dans la série française « Plus belle la vie », une actrice a été remplacée par un deep fake parce qu’elle ne pouvait pas tourner pour des raisons de santé. Le deepfake peut également être utilisé dans le marketing.

Alors que les vidéos trompeuses mettant en scène des célébrités, des personnes non célèbres et des personnalités politiques se multiplient, le gouvernement a adopté un projet de loi visant à encadrer le deepfake.

Au fur et à mesure que la technique du deepfake se développe, des vidéos pornographiques mettant en scène des célébrités se multiplient sur internet. L’ampleur est telle qu’un site appelé « MrDeepFakes » a même été créé. Il réunit toutes les vidéos deepfakes pornographiques. Il abrite également un forum où les amateurs de cette technologie échangent entre eux.

Une étude menée par une entreprise de cybersécurité, Deeptrace, rapporte que près de 96 % des deepfakes étaient à caractère pornographique.

Les avancées technologiques ne font qu’exacerber les actes malveillants. Il y a encore cinq ans, la réalisation d’un deepfake demandait des milliers d’images. Aujourd’hui, un utilisateur lambda peut en créer à l’aide d’outils accessibles en ligne. Il lui suffit de choisir une photo de face et de remplacer le visage par un autre en temps réel.

En France, l’influenceuse Jujufitcats figure parmi les récentes victimes du deepfake pornographique. La jeune femme affirme avoir reçu des photos d’elle dénudée avec les parties intimes refaites. Une autre journaliste française a vu des clichés d’elle nue sur Instagram. Ces cas en France sont des exemples parmi tant d’autres.

En Espagne, près de 20 jeunes filles mineures ont vu leur visage collé à des photos nues. Les auteurs volent généralement les photos sur les réseaux sociaux des victimes.

En Inde, une journaliste a fait également les frais d’une vidéo pornographique avec son visage. Elle dénonce une pratique visant à la faire taire. Selon un expert dans le domaine, les femmes sont majoritairement les victimes de cette technologie.

Dès 2019, une députée Renaissance alerte le secrétaire d’État chargé du numérique de l’époque sur la prolifération des deepfakes et demande la mise en place des mesures. En 2023, un projet de loi est enfin proposé à l’Assemblée nationale visant à réguler l’espace numérique. Il a été adopté en première lecture le 17 octobre 2023.

Le ministre chargé du numérique Jean-Noël Barrot est strict sur les hypertrucages pornographiques visant des femmes. Les auteurs risquent 60 000 euros d’amende et deux ans d’emprisonnement. Ces peines augmentent à 75 000 euros et trois ans de prison si le contenu a été réalisé sur une plateforme de communication en ligne. D’ailleurs, ces plateformes s’exposent également à des amendes allant jusqu’à 6 % de leur chiffre d’affaires. En effet, il leur revient de signaler et de modérer l’utilisation des outils et des contenus.

Au-delà de ce projet de loi, les victimes peuvent déjà invoquer l’atteinte à la protection de la vie privée et à la protection du droit à l’image en droit. Elles peuvent également s’appuyer sur les lois sur l’usurpation d’identité, l’utilisation d’images sans l’autorisation de son propriétaire, etc.

Il n’est pas évident de démêler le vrai du faux sachant la qualité des deepfakes actuels. Néanmoins, quelques points peuvent les trahir, à commencer par le clignement des yeux. Si la personne ne ferme jamais les yeux sur le montage, cela peut indiquer qu’il s’agit d’un deepfake. Les lèvres ne sont pas synchronisées avec le son sur certains extraits.

Par ailleurs, la vérification de la source s’impose avant d’assimiler les informations dans une vidéo. Le média est-il une source fiable ?