Deepfakes : quand voir et entendre ne suffit plus

Il y a encore quelques années, un deepfake convaincant nécessitait du matériel, des compétences techniques et parfois plusieurs heures de travail.

Cette barrière disparaît progressivement.

Une photographie, quelques secondes de voix ou plusieurs images publiées sur un réseau social peuvent désormais fournir suffisamment de matière pour produire une imitation crédible. Le ministère de l’Intérieur alerte lui-même sur le clonage vocal, les faux profils et les vidéos artificielles utilisés pour solliciter de l’argent ou usurper l’identité d’un proche.

Le problème n’est donc plus seulement celui de la désinformation.

Le deepfake devient un instrument potentiel d’escroquerie, de harcèlement, de chantage ou d’atteinte sexuelle à l’image.

Et lorsqu’une fausse vidéo paraît authentique, une difficulté nouvelle apparaît : faut-il désormais commencer par prouver que ce que tout le monde vient de voir… n’a jamais existé ?

Le droit français sanctionne déjà les deepfakes

Contrairement à une idée parfois répandue, la France n’a pas attendu l’IA Act pour commencer à légiférer.

Depuis la loi du 21 mai 2024 visant à sécuriser et réguler l’espace numérique, l’article 226-8 du Code pénal vise expressément les contenus générés par traitement algorithmique.

Le fait de diffuser, sans son consentement, un contenu visuel ou sonore généré par algorithme représentant l’image ou les paroles d’une personne est puni lorsqu’il n’apparaît pas clairement qu’il s’agit d’un faux ou que cette génération artificielle n’est pas expressément mentionnée.

La peine est d’un an d’emprisonnement et 15 000 euros d’amende, portée à deux ans et 45 000 euros lorsque les faits sont commis au moyen d’un service de communication au public en ligne.

Un détail est important : le texte vise le fait de porter le contenu à la connaissance « du public ou d’un tiers ».

Il n’est donc pas nécessaire qu’une fausse vidéo devienne virale pour que la question pénale se pose.

Deepfakes sexuels : le droit est nettement plus sévère

Le législateur a créé un régime spécifique pour les contenus à caractère sexuel.

L’article 226-8-1 du Code pénal sanctionne la diffusion d’un montage sexuel réalisé avec l’image ou les paroles d’une personne sans son consentement. Le texte vise expressément les contenus visuels ou sonores générés par traitement algorithmique.

La peine atteint deux ans d’emprisonnement et 60 000 euros d’amende, et trois ans et 75 000 euros lorsque la publication intervient en ligne.

Ici, une différence essentielle existe avec l’article 226-8 : indiquer qu’il s’agit d’un deepfake ne rend pas licite la diffusion d'un contenu sexuel généré à partir d'une personne qui n'y a pas consenti.

C’est particulièrement important avec le développement des outils dits de « nudification », capables de fabriquer une image ou une vidéo sexuelle artificielle à partir d’une photographie ordinaire.

La victime n’a jamais été filmée nue. La scène n’a jamais eu lieu.

Mais le préjudice, lui, peut être parfaitement réel.

Un faux peut déclencher plusieurs infractions

Le deepfake n’est d’ailleurs pas une qualification pénale isolée.

Tout dépend de l’usage qui en est fait.

Une fausse vidéo répétitivement diffusée pour humilier une personne peut entrer dans le champ du harcèlement, l’article 222-33-2-2 du Code pénal prévoyant notamment une aggravation lorsque les faits sont commis au moyen d’un service de communication en ligne.

L’utilisation de l’identité numérique d’une personne pour troubler sa tranquillité ou porter atteinte à son honneur peut relever de l’usurpation d’identité, prévue par l’article 226-4-1.

Si une voix clonée ou une fausse visioconférence permet de convaincre une victime de transférer de l’argent, l’escroquerie définie à l’article 313-1 peut être caractérisée : cinq ans d’emprisonnement et 375 000 euros d’amende dans sa forme simple.

Et lorsqu’un faux contenu sexuel sert à obtenir de l’argent ou d’autres images sous la menace de sa diffusion, le chantage entre également en jeu. L’article 312-10 prévoit jusqu’à sept ans d’emprisonnement et 100 000 euros d’amende lorsque le chantage en ligne s’appuie sur des images ou vidéos sexuelles.

La technologie est nouvelle.

Une partie des infractions, elle, ne l’est pas.

C’est souvent le moyen de commettre l’infraction qui change, davantage que sa nature juridique.

Depuis le 2 août 2026, l’Europe impose de signaler les contenus générés par IA

L’année 2026 marque toutefois une étape supplémentaire.

L’article 50 du règlement européen sur l’intelligence artificielle est applicable depuis le 2 août 2026.

Les fournisseurs de systèmes générant des images, sons, vidéos ou textes synthétiques doivent mettre en place un marquage permettant de détecter qu’un contenu a été produit ou manipulé par une IA. Pour les deepfakes, certaines utilisations professionnelles doivent également donner lieu à une information visible ou audible du public.

L’Union européenne a même élaboré des pictogrammes permettant d'identifier un contenu entièrement généré ou partiellement modifié par IA. Leur utilisation n'est pas obligatoire en tant que telle, mais l'obligation de transparence prévue par l'IA Act l'est.

Attention néanmoins à une nuance souvent oubliée : l’IA Act ne transforme pas toute utilisation privée d’une IA en activité réglementée. Une personne utilisant un système dans un cadre strictement personnel n’est notamment pas nécessairement considérée comme un « déployeur » au sens de l’article 50.

Cela ne signifie évidemment pas qu’elle peut diffuser impunément un faux préjudiciable : le Code pénal français continue de s’appliquer.

Le 2 décembre 2026, une nouvelle frontière sera franchie

L’évolution européenne va plus loin.

Après la modification de l’IA Act durant l’été 2026, de nouvelles interdictions doivent devenir applicables le 2 décembre 2026.

Elles viseront notamment la mise sur le marché, la mise en service ou certaines utilisations de systèmes d’IA permettant de générer ou manipuler des représentations intimes réalistes d’une personne identifiable sans son consentement. Une autre interdiction vise les systèmes générant ou manipulant des contenus pédocriminels.

Le changement est majeur.

Jusqu’ici, le droit pénal intervient principalement après la création et surtout la diffusion du contenu.

La réglementation européenne cherche désormais également à intervenir en amont, sur l’outil lui-même.

Faut-il aller jusqu’à empêcher techniquement une IA de générer certains contenus plutôt que sanctionner uniquement celui qui les diffuse ?

L’Europe vient clairement de commencer à répondre par l’affirmative.

Les plateformes sont elles aussi placées sous surveillance

La lutte ne repose pas uniquement sur la victime et la police.

Le Digital Services Act (DSA) impose aux plateformes des mécanismes permettant de signaler des contenus illicites. Les très grandes plateformes doivent en outre évaluer et réduire les risques systémiques liés, entre autres, aux contenus illégaux, à la protection des mineurs et aux violences fondées sur le genre.

La question n’est pas théorique.

Le 26 janvier 2026, la Commission européenne a ouvert une enquête formelle concernant X afin notamment d’examiner les risques associés aux fonctionnalités de Grok et à la diffusion de contenus sexuellement explicites manipulés, dont certains pouvaient concerner des mineurs.

En France, l’Arcom est le coordinateur national pour les services numériques. Elle surveille notamment la manière dont les plateformes gèrent leurs risques systémiques et peut transmettre des constats aux autorités européennes compétentes.

Mais une interrogation demeure : un contenu généré en quelques secondes et partagé des milliers de fois peut-il réellement être stoppé assez rapidement par une procédure de signalement ?

Et la police française ? Elle apprend aussi à distinguer le vrai du faux

Les forces de l’ordre ne sont pas restées à l’écart de cette évolution.

Le ministère de l’Intérieur dispose désormais d’un Commandement dans le cyberespace, le COMCYBER-MI, chargé de renforcer les capacités d’anticipation, de détection et de réaction face à la cybercriminalité. Le rapport annuel sur la cybercriminalité publié en avril 2026 identifie les deepfakes parmi les instruments utilisés pour l’usurpation d’identité, les fraudes, le chantage ou les contenus intimes non consentis.

La police scientifique travaille également sur le problème technique lui-même.

En 2026, le Service national de police scientifique indiquait que son laboratoire central de criminalistique numérique pilote un projet de recherche consacré à la distinction entre contenus audio ou vidéo authentiques et deepfakes.

C’est un enjeu considérable.

Pendant longtemps, une photographie, un enregistrement ou une vidéo pouvait constituer un élément matériel particulièrement convaincant.

Demain, faudra-t-il systématiquement en vérifier l’origine, les métadonnées et l’intégrité ?

Et surtout : les outils de détection réussiront-ils durablement à suivre la vitesse d'amélioration des outils de génération ?

PHAROS, THESEE, 17Cyber : plusieurs portes d’entrée pour les victimes

L’État a également développé plusieurs dispositifs complémentaires.

Pour un contenu public potentiellement illicite diffusé en ligne, PHAROS permet un signalement analysé par des policiers et gendarmes, qui procèdent à sa qualification juridique avant de l’orienter, si nécessaire, vers un service d’enquête.

Lorsqu’un deepfake est utilisé dans le cadre d’une escroquerie en ligne ou d’un chantage relevant du dispositif, THESEE permet aux particuliers de déposer plainte ou d’effectuer un signalement à distance.

Enfin, 17Cyber, accessible 24 heures sur 24 et 7 jours sur 7, permet d’obtenir un diagnostic et, lorsque la situation le nécessite, d’échanger directement avec un policier ou un gendarme.

Ces outils deviennent d’autant plus importants que le phénomène numérique continue de progresser : en 2025, les services de sécurité français ont enregistré 280 500 atteintes aux biens commises avec un outil numérique, soit 14 % de plus qu’en 2024. Ce chiffre recouvre évidemment bien davantage que les seuls deepfakes, mais montre l’ampleur du terrain sur lequel les enquêteurs doivent désormais intervenir.

Le vrai problème pourrait bientôt être la confiance

La réponse juridique commence donc à se structurer.

La France sanctionne déjà les deepfakes trompeurs, sexuels ou utilisés dans certaines infractions.

L’Europe impose désormais davantage de transparence.

Les plateformes sont responsabilisées.

Les outils destinés à générer certains contenus particulièrement graves vont eux-mêmes être interdits.

Et la police développe des compétences de détection spécialisées.

Mais le prochain défi est peut-être moins visible.

Que se passe-t-il lorsque nous savons qu’une vidéo parfaitement réaliste peut être entièrement fausse ?

Le danger n’est plus seulement de croire au faux.

Il pourrait aussi devenir possible de nier le vrai en affirmant qu’une vidéo authentique a été générée par IA.

Un marquage technique suffira-t-il ? Survivra-t-il à une capture d’écran, un réencodage ou une succession de partages ? Et comment un citoyen ordinaire pourra-t-il vérifier un contenu lorsqu’il ne dispose d’aucun outil d’expertise ?

La prochaine bataille juridique autour de l’intelligence artificielle ne portera peut-être donc pas uniquement sur la suppression des faux.

Elle pourrait porter sur quelque chose de plus fondamental : préserver notre capacité à établir ce qui est vrai.