Les apps Face Swap permettent de monter sans grand effort des photos privées en photos de nu et en films sexuels. Les conséquences sont fatales : De nombreuses personnes retrouvent involontairement leur visage dans des films pornographiques sur Internet. Nous vous montrons ci-dessous ce qu’est le deepfake porn et comment vous pouvez vous y opposer.
Qu’est-ce que le deepfake porn ?
Le deepfake porn est une image ou une vidéo à contenu pornographique dans laquelle le visage d’une personne a été monté à l’aide d’une application appelée Face Swap. La technique sous-jacente est basée sur l’intelligence artificielle (IA). Elle est aujourd’hui si avancée que les prises de vue manipulées semblent extrêmement réalistes.
Bien entendu, les apps Face Swap permettent de construire des contenus inoffensifs, mais 96 % des deepfakes sont des films pornographiques. Les victimes sont presque toujours des femmes.
De plus en plus de femmes se retrouvent involontairement dans des contenus deepfake XXX.
Actrices, influenceuses ou politiciennes – au début, c’étaient surtout des femmes célèbres pour lesquelles des deepfake nudes et du porno étaient créés et diffusés sur le net. La youtubeuse “Mrs Bella” et la politicienne Annalena Baerbock en sont des victimes célèbres dans notre pays. Selon le Spiegel, des inconnus en ont fait circuler une pendant la campagne électorale de 2021, qui montrait en réalité un modèle érotique d’Europe de l’Est.
Mais entre-temps, ce ne sont plus seulement des femmes célèbres qui se retrouvent dans des deepfakes pornographiques. Selon les recherches du format d’investigation Vollbild de la SWR, de plus en plus de particuliers comptent parmi les victimes. Henry Ajder, expert en IA : “Dans le contexte de l’utilisation abusive des images, nous parlons de millions de femmes qui sont désormais prises pour cible”.
Avec les Face Swap Apps, il est possible de créer un porno deepfake ou une photo nue de pratiquement n’importe quelle femme sans son consentement – la seule condition est d’avoir une photo de son visage. L’utilisation des apps est un jeu d’enfant. Dans le cadre de ses recherches, Vollbild a testé la version premium d’une application deepfake et en quelques minutes, l’équipe a réussi sans peine et sans aucune connaissance préalable à monter le visage d’un inconnu dans un clip porno.
De nombreux auteurs sont des hommes de l’entourage privé
Mais qui crée des vidéos et des images sexuelles de femmes Deepfake sans leur consentement ? Les recherches en plein écran révèlent qu’il s’agit presque toujours d’hommes.
Certains auteurs souhaitent utiliser des applications pornographiques deepfake pour assouvir leurs fantasmes sexuels. D’autres souhaitent en revanche humilier ou se venger de femmes de leur cercle de connaissances privé. Il n’est pas rare que le face swap porn s’accompagne de menaces ou de chantage et que les hommes s’en servent comme d’une arme dans les conflits relationnels.
Sur Internet, on trouve des forums où d’innombrables photos privées de femmes peuvent être consultées publiquement. Certaines ont déjà été manipulées et montrent les femmes soi-disant nues ou en train de se livrer à des actes sexuels. Sur les photos originales encore non retouchées, on peut parfois lire des appels aux autres membres pour qu’ils créent des deepfakes à partir de ces prises de vue.
Les nus et les films de sexe deepfake sont-ils punissables ?
Interrogés par Vollbild, les offices criminels des Länder ont fait savoir que les deepfakes ne constituaient pas jusqu’à présent un délit en soi. Ils relèvent en revanche de plusieurs infractions, par exemple de la loi sur les droits d’auteur.
Selon cette loi, le deepfaking de films pornographiques constitue une violation du droit à la protection des données d’autrui. La loi fédérale sur la protection des données prévoit une sanction pénale en vertu de l’article 42 de la loi fédérale sur la protection des données – si le traitement des données avait pour but de nuire à la personne concernée, une peine de prison pouvant aller jusqu’à deux ans peut être prononcée.
En outre, “le créateur de ces faux pornos peut être dénoncé pour injure, diffamation ou calomnie (§§ 185 – 187 du code pénal, StGB)”.
Comment se défendre contre le porno deepfaker ?
Lorsque les victimes de deepfake porn découvrent les enregistrements falsifiés d’elles-mêmes sur le net, la honte, l’impuissance et le désespoir sont les réactions typiques. Pour éviter d’en arriver là, il convient de prendre différentes mesures de protection.
D’une part, il s’agit d’adopter un comportement conscient sur Internet. Par exemple, avant de télécharger des photos privées, il faut toujours se demander qui peut les voir. Les photos qui peuvent être vues par le public, comme les photos de profil, doivent être choisies avec soin et peuvent être censurées en cas de doute. Les demandes de photos ou de vidéos émanant d’inconnus, par exemple dans les chats, devraient en principe être traitées avec scepticisme et n’être acceptées que si l’on fait vraiment confiance à la personne.
Si l’on tombe sur du porno deepfake sur le net, il faut demander sa suppression à l’exploitant du site. Même si l’on n’est pas soi-même la personne représentée dans le porno manipulé, on peut ainsi aider d’autres victimes. Les faux films de sexe se reconnaissent par exemple au fait que le contexte est absurde ou que des séquences floues et incohérentes apparaissent régulièrement. L’outil en ligne gratuit permet également de repérer facilement les contrefaçons.
Bien sûr, les auteurs sont difficiles à identifier, mais on peut au moins agir contre les générateurs de deepfake porno qui les utilisent. L’une d’entre elles vise l’utilisation abusive des applications Face Swap. Elle demande entre autres l’arrêt de la manipulation des photos de nus, le retrait des applications de fake des magasins d’applications et des lois plus fortes contre l’utilisation abusive de photos privées à des fins pornographiques. 76.937 signatures ont pu être récoltées – c’est maintenant au ministre du numérique Volker Wissing d’agir contre le deepfake porn.
