Amendement n° 128 Sénat
LOI n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique (1)
Dispositif
Après l’article 5
Insérer un article additionnel ainsi rédigé :
Après l’article 226‑8 du code pénal, il est inséré un article 226‑8‑1 ainsi rédigé :
« Art. 226‑8‑1. – Est puni de deux ans d’emprisonnement et de 60 000 euros d’amende le fait de publier, sans son consentement, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne, et présentant un caractère sexuel. Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, et présentant un caractère sexuel. »
Ce que ça change · analyse IA
Crée un délit spécifique pour la publication de deepfakes à caractère sexuel non consentis, face à l'urgence de protéger l'intégrité des personnes.
Intention : Sanctionner spécifiquement la création et la diffusion de contenus pornographiques synthétiques pour protéger l'intégrité et la dignité des individus, en particulier des femmes, contre les nouvelles formes de cyber-violence.
L'amendement transforme une menace technologique émergente en une infraction pénale autonome. En isolant le 'deepfake' à caractère sexuel, le législateur reconnaît que la violence numérique ne se limite plus à la simple diffusion d'images réelles, mais s'étend à la création de réalités artificielles visant à humilier. L'adoption de cet amendement montre une volonté de passer d'une logique de protection de la vie privée classique à une protection de l'identité numérique contre la manipulation technologique, en ciblant spécifiquement une forme de cyber-violence qui frappe majoritairement les femmes.
Objet
Le présent amendement créé un nouveau délit de publication d’hypertrucage (« deepfake ») à caractère sexuel représentant l’image ou les paroles d’une personne sans son consentement.
L’hypertrucage, ou « deepfake », est une technique de synthèse mono- ou multimédia reposant sur l'intelligence artificielle. Elle peut servir à superposer ou fusionner des images, des fichiers vidéo ou audio existants sur d'autres images ou fichiers vidéo ou audio, à créer un contenu artificiel sur une personne cible à partir du comportement d’une personne source, ou même à créer artificiellement des contenus ressemblants à partir de commandes textuelles.
Bien que cette technologie puisse être utilisée à des fins créatives ou de divertissement, elle présente des risques importants pour le statut des documents présentés au public en raison de la multiplication des faux à des fins de nuire, et donc à l’ordre public.
Les « deepfakes » peuvent notamment être utilisés pour créer ou transformer des images à caractère pornographique, sans l’accord de la personne dont le visage, la voix ou le corps sont reproduits. Ces images peuvent sembler très réelles et convaincantes, et peuvent être utilisées à des fins malveillantes telles que la vengeance, la cyber-intimidation, le chantage ou la diffamation.
Selon l’association Deeptrace, 96% des vidéos « deepfake » sont des vidéos pornographiques, où les personnes visées sont dans 99% des cas des femmes, ce qui en fait un enjeu de lutte contre le sexisme. En 2019, 8 des 10 sites pornographiques les plus consultés hébergeaient des «deepfakes », et une dizaine de sites pornographiques leur étaient exclusivement dédiées.
Le débat en séance publique (compte rendu)
Cet amendement n'apparaît pas nommément dans les comptes rendus de séance importés (non soutenu, retiré avant discussion, traité en groupe — ou séance pas encore importée via app:import:comptes-rendus-senat).