Amendement n° 127 Sénat
LOI n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique (1)
Dispositif
Après l’article 4
Insérer un article additionnel ainsi rédigé :
L’article 226‑8 du code pénal est ainsi modifié :
1° Le premier alinéa est complété par une phrase ainsi rédigée : « Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou s’il n’en est pas expressément fait mention. » ;
2° Il est ajouté un alinéa ainsi rédigé :
« Ces peines sont portées à deux ans d’emprisonnement et 45 000 euros d’amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisé en utilisant un service de communication au public en ligne. »
Ce que ça change · analyse IA
Intègre les deepfakes dans le délit de montage trompeur et aggrave la peine si diffusés via les réseaux sociaux.
Intention : Sanctionner plus sévèrement la manipulation de l'image et de la voix par l'IA pour protéger la vérité de l'information et l'identité des individus face à la viralité numérique.
L'amendement transforme une incrimination centrée sur le montage classique en un dispositif adapté à l'ère de l'IA. En introduisant les notions de contenus générés algorithmiquement et d'hypertrucages, le législateur ne se contente pas de mettre à jour le vocabulaire technique ; il reconnaît la capacité de l'IA à créer une réalité de toutes pièces, rendant la distinction entre vrai et faux quasi impossible pour le citoyen. L'ajout de la circonstance aggravante liée aux réseaux de communication électronique montre que l'intention du législateur est de punir non seulement la création du faux, mais surtout sa puissance de propagation virale, qui constitue le véritable danger pour l'ordre public et la confiance sociale.
Objet
Le présent amendement vise à renforcer l’article 226-8 du code pénal en élargissant son périmètre, en ciblant les hypertrucages et en introduisant une circonstance aggravante.
L’hypertrucage, ou « deepfake », est une technique de synthèse mono- ou multimédia reposant sur l'intelligence artificielle. Elle peut servir à superposer ou fusionner des images, des fichiers vidéo ou audio existants sur d'autres images ou fichiers vidéo ou audio, à créer un contenu artificiel sur une personne cible à partir du comportement d’une personne source, ou même à créer artificiellement des contenus ressemblants à partir de commandes textuelles. Bien que cette technologie puisse être utilisée à des fins créatives ou de divertissement, elle présente des risques importants pour le statut des documents présentés au public en raison de la multiplication des faux à des fins de nuire, et donc à l’ordre public.
Les « deepfakes » peuvent notamment être utilisés pour créer des vidéos ou des images trompeuses dans lesquelles des personnalités publiques disent ou font quelque chose qu'ils n'ont jamais dit ou fait en réalité.
Les « deepfakes » peuvent aussi être utilisés pour voler des identités ou pour tromper les personnes en leur faisant croire qu'elles communiquent avec des personnes en qui elles ont confiance. Une étude menée en 2022 par les Universités d'Oxford, de Brown et de la Royal Society, démontre que 78 % des utilisateurs sont incapables de discerner une vidéo hypertruquée d'une vidéo authentique.
Le présent amendement prévoit :
- d’élargir le périmètre de l’article en introduisant les hypertrucages (« deepfakes »), et la notion d’intelligence artificielle et de contenus générés algorithmiquement
- de répondre aux enjeux de viralité des hypertrucages sur les réseaux sociaux en introduisant une circonstance aggravante lorsque l’infraction a été commise au moyen d’un réseau de communication électronique
Le débat en séance publique (compte rendu)
Cet amendement n'apparaît pas nommément dans les comptes rendus de séance importés (non soutenu, retiré avant discussion, traité en groupe — ou séance pas encore importée via app:import:comptes-rendus-senat).