Amendement n° 11 rect. Sénat
LOI n° 2026-813 du 24 août 2026 visant à protéger les mineurs des risques auxquels les expose l'utilisation des réseaux sociaux (1)
Dispositif
Après l’article 1er
Insérer un article additionnel ainsi rédigé :
L’article 226‑8‑1 du code pénal est ainsi modifié :
1° À la seconde phrase du premier alinéa, après le mot : « algorithmique », sont insérés les mots : « ou par l’intelligence artificielle » ;
2° Il est ajouté un alinéa ainsi rédigé :
« Lorsque l’image reproduite ou modifiée est celle d’un mineur de quinze ans captée à l’occasion d’une connexion effectuée par celui‑ci, les peines prévues au premier alinéa sont portées à trois ans d’emprisonnement et 75 000 euros d’amende et celles prévues au troisième alinéa sont portées à cinq ans d’emprisonnement et 150 000 euros d’amende. »
Ce que ça change · analyse IA
Intègre l'IA dans la répression des contenus sexuels d'enfants et durcit les peines, face au risque de prolifération massive.
Intention : L'auteur cherche à verrouiller juridiquement l'usage de l'IA générative pour prévenir la création de masse de contenus pédopornographiques synthétiques, tandis que l'opposition (Commission et Gouvernement) privilégie la prudence législative et l'attente de résultats de la loi actuelle ou d'une régulation européenne.
L'amendement visait à adapter le Code pénal à l'émergence de l'IA générative en explicitant que les contenus créés ou modifiés par ces technologies tombent sous le coup de la loi. Il proposait également une aggravation des peines lorsque l'image concerne un mineur captée lors d'une connexion. Le rejet de cet amendement révèle une volonté du législateur de ne pas multiplier les incriminations ou les durcissements de peines avant d'avoir testé l'efficacité de la loi SREN, tout en privilégiant une réponse européenne (via le règlement sur l'IA) plutôt qu'une réponse pénale nationale spécifique à la technologie.
Objet
Le présent amendement, relatif à la lutte contre la diffusion de contenus dangereux pour les mineurs, vise à reconnaitre comme un acte délictueux le fait de diffuser grâce à l’intelligence artificielle une représentation qui sexualise les enfants ou une photographie ou pseudo‑photographie indécente d’un enfant, notamment lorsqu’est utilisée l’image d’un mineur captée à l’occasion d’une connexion de celui‑ci.
Nous sommes à la croisée des chemins avec l’intelligence artificielle générative (IAG). Créer du contenu à grande échelle est plus facile maintenant que jamais. De la même manière que les préjudices sexuels hors ligne et en ligne contre les enfants ont été accélérés par Internet, l’utilisation abusive de l’IA générative a de profondes implications pour la sécurité des enfants, à travers l’identification des victimes, la prévention comme la prolifération des abus. Cette mauvaise utilisation, et les dommages en aval qui y sont associés, se produit, et justifie une action volontariste, aujourd’hui.
De nombreux outils d’IAG ont fait leur apparition depuis que la technologie s’est généralisée en 2023. Des sociétés technologiques de toutes tailles ont mis sur le marché des outils d’IAG en tant que produits autonomes et en tant que fonctionnalités supplémentaires au sein de services existants, ce qui a considérablement modifié la manière dont les gens interagissent avec cette technologie.
Alors que les outils d’IAG se sont multipliés, la réglementation et la législation spécifiques à ces outils sont très en retard, ce qui facilite l’abus des outils d’IAG par des criminels cherchant à exploiter sexuellement des enfants
En octobre 2023, l’Internet Watch Foundation a publié un rapport sur sa découverte de plus de 20 000 images issues de l’IAG sur un forum du dark web. Les analystes ont déterminé qu’environ 3 000 de ces images relevaient du droit pénal en vigueur contre la production, la distribution et la possession d’une « photographie ou pseudo‑photographie indécente d’un enfant » ou la possession d’une « image interdite d’un enfant ».
La plupart de ces images étaient visuellement réalistes et représentaient des enfants âgés de 7 à 13 ans, et plus de 99 % d’entre elles mettaient en scène des enfants de sexe féminin.
Les outils de l’IAG peuvent servir à créer des représentations visuellement réalistes d’enfants réels à des fins d’exploitation sexuelle, en combinant le visage d’un enfant réel avec une représentation réelle ou synthétique d’un contenu sexuellement explicite, en modifiant une image innocente d’un enfant pour représenter un contenu sexuellement explicite, ou en créant une représentation de nu via l’IAG (comme le font diverses applications « déshabillantes » ) d’un enfant réel.
Les outils d’intelligence artificielle générative (IAG) peuvent créer de nouveaux contenus ou modifier des contenus existants, tels que des textes, des images fixes et des vidéos, à partir de données ou d’invites provenant d’un utilisateur. Les outils d’IAG se sont considérablement multipliés en 2023, et leur utilisation pour créer des documents entièrement ou partiellement synthétiques sur les abus sexuels d’enfants s’est rapidement répandue.
Le débat en séance publique (compte rendu)
Séance du 31/03/2026 — 21 interventions · Compte rendu intégral ↗
L’amendement n° 11 rectifié bis, présenté par M. Pla, Mmes Artigalas et Bonnefoy, MM. Bouad, Bourgi et Chaillou, Mme Conway-Mouret, MM. Devinaz et Fichet, Mmes G. Jourda et Matray et M. Michau, est ainsi libellé :
Après l’article 1er
Insérer un article additionnel ainsi rédigé :
L’article 226-8-1 du code pénal est ainsi modifié :
1° À la seconde phrase du premier alinéa, après le mot : « algorithmique », sont insérés les mots : « ou par l’intelligence artificielle » ;
2° Il est ajouté un alinéa ainsi rédigé :
« Lorsque l’image reproduite ou modifiée est celle d’un mineur de quinze ans captée à l’occasion d’une connexion effectuée par celui-ci, les peines prévues au premier alinéa sont portées à trois ans d’emprisonnement et 75 000 euros d’amende et celles prévues au troisième alinéa sont portées à cinq ans d’emprisonnement et 150 000 euros d’amende. »
La parole est à M. Sebastien Pla.
Cet amendement vise à reconnaître comme un acte délictueux le fait de diffuser grâce à l’intelligence artificielle une représentation qui sexualise les enfants ou une photographie ou pseudo-photographie indécente d’un mineur.
Nous sommes à la croisée des chemins avec l’IA générative. Créer du contenu à grande échelle est plus facile que jamais. De la même manière que le nombre des préjudices sexuels hors ligne et en ligne contre les enfants a été accru par internet, l’utilisation abusive de l’IA générative a de profondes implications pour la sécurité des intéressés : identification des victimes, prévention et prolifération des abus. Les mauvaises utilisations et les dommages en aval qui y sont associés sont réels et justifient une action volontariste aujourd’hui.
En octobre 2023, l’Internet Watch Foundation a publié un rapport sur sa découverte de plus de 20 000 images issues de l’IA générative sur un forum du dark web. Les analystes ont déterminé qu’environ 3 000 d’entre elles relevaient du droit pénal en vigueur contre la production, la distribution et la possession d’une « photographie ou pseudo-photographie indécente d’un enfant » ou la possession d’une « image interdite d’un enfant ».
Alors que les outils d’IA générative se sont multipliés, la réglementation et la législation spécifiques sont très en retard, ce qui facilite les abus de la part de criminels cherchant à exploiter sexuellement des enfants.
Quel est l’avis de la commission ?
rapporteure. Par cet amendement, vous proposez de reconnaître comme un acte délictueux le fait de diffuser grâce à l’intelligence artificielle une représentation qui sexualise les enfants ou une photographie ou pseudo-photographie indécente d’un mineur et de modifier le quantum de peine applicable.
Au préalable, je dois reconnaître que la commission n’a pas eu le temps d’interroger la justice sur la nécessité ou la légitimité de cette mesure. En outre, je rappelle que la loi Sren, qui a créé cette infraction, a moins de deux ans. Nous n’avons pas encore le recul nécessaire sur son application. Il serait donc plus raisonnable d’attendre une évaluation avant de revoir le quantum de peine si, en effet, une telle décision est légitime. Votre préoccupation, à savoir que la sanction soit à la juste mesure, l’est, bien entendu, mais je ne dispose pas d’éléments qui plaideraient pour un avis favorable.
La commission demande donc le retrait de cet amendement ; à défaut, elle y sera défavorable.
Quel est l’avis du Gouvernement ?
ministre déléguée. Votre amendement est déjà satisfait par le code pénal : les peines sont plus sévères pour les infractions relatives aux mineurs.
Pour votre information, la France défend auprès de la Commission, dans le cadre d’un nouveau règlement sur l’IA, une évolution très forte des règles applicables à la suite du scandale Grok. En effet, c’est à l’échelle européenne que les sanctions pourront être bien plus massives, notamment contre les plateformes.
Le Gouvernement émet un avis défavorable sur cet amendement.
Je mets aux voix l’amendement n° 11 rectifié bis.