Deepfakes pornographiques : scandale en Allemagne et loi à venir En Allemagne, un scandale de deepfakes pornographiques met en lumière les violences numériques et la question d’une loi protectrice.
Le phénomène des deepfakes pornographiques devient un sujet palpable en Allemagne, après la révélation publique de Collien Fernandes sur des diffusions non consenties d’images à caractère sexuel. L’actrice accuse son ex‑mari, l’acteur Christian Ulmen, d’avoir utilisé l’intelligence artificielle pour se faire passer pour elle et alimenter des échanges à caractère sexuel avec des inconnus. Le scandale survient alors que Berlin prépare une loi de protection des internautes face à ces violences numériques et à d’autres formes d’atteinte à la vie privée.
Un scandale personnel et un phénomène massif
Collien Fernandes a déposé plainte contre X pour agression, usurpation d’identité et diffamation, affirmant que son ex‑mari a eu recours à des outils technologiques pour se faire passer pour elle lors de conversations et d’échanges de contenus sexuels. Selon Der Spiegel, l’ancien couple utilisait des images, vidéos et sons générés par IA pour nourrir des échanges avec des inconnus, et ce phénomène aurait duré pendant une décennie, entraînant la diffusion non consentie de contenus et des vidéos ayant été vues des centaines de milliers de fois. Fernandes explique avoir vu des faux profils créés à son nom, qui contactaient avant tout des hommes et envoyaient de fausses images dénudées et vidéos sexuelles, manipulées comme si elle s’était photographiée et filmée elle‑même dans l’intimité.
« Pendant des années, de faux profils ont été créés à mon nom (…) qui contactaient avant tout des hommes. Après des débuts de conversation normaux, les discussions prenaient un ton de flirt, et la personne envoyait de fausses images dénudées et vidéos sexuelles de moi », détaille Collien Fernandes.
Le phénomène a aussi impliqué des conversations téléphoniques générées par IA et des vidéos qui ont circulé largement; Fernandes rapporte que l’affaire n’a cessé après 2023, et qu’une suspension des comptes par les plateformes concernées a freiné l’agression, sans que tous les contenus puissent être supprimés, dont une vidéo enregistrant plus de 270 000 vues.
Des lois en gestation pour freiner les deepfakes
En Allemagne, la discussion législative s’est intensifiée autour d’une proposition de loi relative à la protection contre les violences numériques, présentée comme « presque prête » par un porte‑parole du ministère fédéral de la Justice et de la protection des consommateurs. Le texte viserait deux volets: un volet pénal et un volet civil. Concrètement, pour les victimes, il s’agirait de renforcer le droit à être informé par les plateformes en cas de violations des droits de la personnalité et de faciliter le retrait des contenus incriminés. Du côté des auteurs, le gouvernement entend menacer de bloquer les comptes sur les plateformes afin de réduire le sentiment d’impunité.
- Volet pénal : les deepfakes pornographiques et d’autres formes d’agressions numériques deviendront passibles de sanctions pénales.
- Volet civil : renforcement de l’indemnisation des victimes et facilitation du retrait des contenus nuisibles.
- Mesures plateformes : possibilité de bloquer les comptes auteurs et d’améliorer l’information des utilisateurs.
Contexte, limites et ce qu’on ne sait pas encore
À l’échelle européenne, l’encadrement des contenus générés par IA demeure complexe, et l’Allemagne reste partiellement dépourvue sur certains points jusqu’à l’adoption d’un cadre clair. Le phénomène touche aussi des mineurs et des adultes, et les contenus générés par IA alimentent des violences qui se renforcent dans l’espace public et privé. L’ONG britannique Internet Watch Foundation a alerté sur l’évolution rapide des contenus représentant des agressions sexuelles sur mineurs (CSAM) et générés par IA, soulignant l’urgence d’un cadre plus strict. En parallèle, des victimes comme Fernandes recourent à des voies civiles dans divers pays; elle a par ailleurs déposé une plainte en Espagne, où elle a vécu, dénonçant usurpation d’identité, injure publique et violences répétées dans le cadre familial.
Au‑delà du numérique, la défense des droits passe aussi par des associations comme HateAid, qui soutiennent les victimes et appellent les législateurs à renforcer la protection des internautes face à l’expansion des deepfakes et des violences numériques. Le débat s’inscrit dans une logique de responsabilisation des plateformes et d’élargissement des mécanismes juridiques, tout en restant attentif à l’équilibre entre prévention et libertés numériques.
Pour terminer
Le dossier Fernandes illustre que ces violences ne se cantonnent pas au privé et qu’elles exigent une réponse juridique plus rapide et plus adaptée. Le chemin législatif passe par des équilibres entre prévention, répression et soutien aux victimes. Reste à voir si la loi allemande répondra efficacement et dans quel délai, et dans quelle mesure les plateformes sauront appliquer ces mesures tout en protégeant les droits des utilisateurs et la vie privée.
