Amendement n° 20 Sénat

Après l’alinéa 7

Insérer un paragraphe ainsi rédigé :

« …. – Les services en ligne mentionnés aux I à I ter mettent à disposition des utilisateurs de plus de quinze ans un mode algorithmique sobre, obligatoire pour les mineurs. Ce mode algorithmique sobre répond aux critères suivants, dont les conditions d’application et de contrôle sont précisées par décret en Conseil d’État, après avis de l’Autorité de régulation de la communication audiovisuelle et numérique et de la Commission nationale de l’informatique et des libertés :

« 1° Absence de personnalisation fondée sur le profilage ;

« 2° Absence d’optimisation pour l’engagement ou le temps passé ;

« 3° Absence de défilement infini et de lecture automatique des contenus.

La parole est à Mme Monique de Marco.

L’article 28 du DSA prévoit explicitement que « les fournisseurs de plateformes en ligne accessibles aux mineurs mettent en place des mesures appropriées et proportionnées pour garantir un niveau élevé de protection de la vie privée, de sûreté et de sécurité des mineurs ».

La santé mentale des jeunes est touchée à des niveaux inquiétants et les réseaux sociaux en sont tenus pour partie responsables devant les tribunaux à travers le monde.

Depuis la censure de la loi Marcangeli, première tentative française de protection des mineurs en ligne, le droit européen a évolué.

En juillet dernier, la Commission européenne a publié des lignes directrices pour imposer aux plateformes de mettre en œuvre l’article 28. Celles-ci nous renseignent sur la jurisprudence à venir de la Commission et sur ce qu’elle juge compatible ou non avec le droit européen.

Parmi elles figure notamment le fait de prévoir un mode algorithmique « sobre » adapté aux plus jeunes, destiné à limiter l’instauration d’addictions vis-à-vis des réseaux et des plateformes.

Ce mode vise notamment à prévoir que les mineurs ne seront plus soumis aux paramètres du déroulement infini, dit scroll, ou à l’enchaînement automatique des vidéos, c’est-à-dire à l’autoplay. Il permet également de lutter contre le profilage de contenus à caractère commercial.

En suivant les lignes directrices de la Commission, nous assurerions la compatibilité du texte avec le droit de l’Union dans l’intérêt des mineurs.

L’amendement n° 14, présenté par Mme Corbière Naminzo, MM. Basquin, Bacchi, Ouzoulias et les membres du groupe Communiste Républicain Citoyen et Écologiste – Kanaky, est ainsi libellé :

Après l’alinéa 10

Insérer un paragraphe ainsi rédigé :

« …. – Sont interdites, pour les utilisateurs mineurs de services de réseaux sociaux, les interfaces de conception persuasive visant à encourager une utilisation intensive ou à engendrer des schémas comportementaux compulsifs. Cette interdiction porte notamment sur les fonctionnalités d’affichage continu de contenus et les mécanismes de sollicitation automatique de l’attention.

« Un décret en Conseil d’État précise la liste des fonctionnalités et caractéristiques de conception interdites en application du présent paragraphe. » ;

La parole est à M. Alexandre Basquin.

Nous le savons, les réseaux sociaux reposent sur la conception de mécanismes addictifs. C’est d’ailleurs leur modèle économique, et, sans chercher à relancer le débat, il me semble que l’article 1er laisse ces plateformes un peu trop tranquilles.

De tels mécanismes addictifs ont des effets délétères, notamment sur nos jeunes : anxiété, dépression, troubles alimentaires. Notre amendement vise donc à les interdire.

Notre démarche s’inscrit dans la droite ligne de la vôtre, monsieur le ministre, qui avez transmis à la justice un signalement visant TikTok au titre de l’article 40 du code de procédure pénale, dénonçant les spirales mortifères dans lesquelles ce réseau social enferme ses utilisateurs.

Elle s’inscrit également dans la droite ligne de la décision de la justice californienne, qui a condamné Instagram et YouTube à la suite de la dépression d’une adolescente, ou encore d’une résolution d’un jury du Nouveau-Mexique, qui a condamné Meta pour avoir caché les effets néfastes de ses applications. Notre amendement vise à nous assurer que notre législation ne soit pas moins-disante.

Quel est l’avis de la commission ?

rapporteure. Madame de Marco, cela me fend un peu le cœur, mais la commission émet un avis défavorable sur votre amendement.

Nous sommes tous bien conscients de la nocivité des algorithmes. Florence Blatrix Contat et moi-même avons beaucoup travaillé à ce sujet en préparant notre rapport sur la proposition de résolution au nom de la commission des affaires européennes sur le DSA, votée à l’unanimité par le Sénat.

Nous y demandions – pardonnez-moi l’anglicisme – que les algorithmes soient développés selon le principe du safety by design, c’est-à-dire que leur conception soit sécurisée dès le démarrage : comme pour la mise sur le marché d’un médicament, il faut vérifier les algorithmes de toutes les applications ; s’il l’un d’entre eux se révélait nocif, il ne devrait pas être mis en circulation.

Ce principe n’a finalement pas été retenu dans le DSA. En définitive, seule l’Union européenne peut modifier la rédaction de ce règlement pour y intégrer les fonctionnalités tout à fait pertinentes et justifiées que vous proposez. Même si nous ne pouvons malheureusement pas retenir une telle mesure à ce stade, il est toujours bon de se répéter, et je vous remercie de nous fournir l’occasion d’introduire de telles précisions dans notre débat.

Monsieur Basquin, il en va presque de même pour l’amendement n° 14, qui vise à interdire les fonctionnalités addictives. Toutefois, l’argument est un peu différent : votre amendement fait, à mon sens, double emploi avec le dispositif des alinéas 5 et 6 du texte, selon lesquels les plateformes addictives et dangereuses pour la santé – vous l’avez souligné, de telles pratiques, avérées, ne sont pas admissibles – devront précisément être listées par arrêté, pris après avis de l’Arcom, pour que les mineurs cessent d’y avoir accès.

Pour la santé des enfants et des adolescents, il n’est donc pas nécessaire de prévoir un tel dispositif, qui serait redondant. Là encore, il est toujours utile de répéter qu’il faudra prendre en compte cet élément lors de la prochaine révision du DSA, que nous espérons la plus proche possible. La commission émet donc un avis défavorable sur cet amendement.

Quel est l’avis du Gouvernement ?

ministre déléguée. En effet, ces propositions ne relèvent pas de l’échelon national.

L’article 38 du DSA prévoit notamment que les très grandes plateformes ont l’obligation d’offrir des options de systèmes de recommandation qui ne reposent pas sur le profilage de la personne. En outre, son article 28 interdit la publicité ciblée sur les mineurs, et les lignes directrices 6.4, 6.5 et 6.6 du même article règlent la non-exposition des mineurs aux interfaces addictives.

Toutefois, comme Mme la rapporteure, je suis convaincue que la France peut jouer un rôle moteur dans le débat sur l’évolution du droit européen. Nous comptons nous engager sur les discussions relatives aux algorithmes à la Commission européenne.

La parole est à M. Thomas Dossus, pour explication de vote.

Ces amendements sont en réalité le nœud du problème. En raison de son cadre, cette proposition de loi n’est qu’un dérivatif. Dès lors, elle ne me satisfait pas complètement – ni même partiellement, d’ailleurs.

Lors de la discussion générale, tous les intervenants ont décrit la toxicité des algorithmes en question, descriptions parfois assorties de comparaisons avec l’alcool ou d’autres drogues. Je partage pleinement ces analyses. Toutefois, contrairement au bon vin, les algorithmes ne se sont pas du tout bonifiés avec le temps.

Le modèle économique actuel des plateformes en question, qui repose sur ces algorithmes, est en lui-même toxique. C’est sur ce point que nous aurions dû insister en matière de régulation.

Le DSA permet de nombreuses actions. Un certain nombre de contentieux sont en cours, ce qui est heureux : l’Europe est une puissance quand elle est régulatrice, y compris face à ces géants.

Le DSA va dans le bon sens, mais certaines de ses dispositions ne sont pas encore complètement mises en œuvre. Il en est ainsi de la transparence des algorithmes pour les chercheurs, qui peine actuellement à monter en puissance. C’est sur cet aspect que nous aurions dû insister face aux géants du numérique.

Il me semble que, par ce texte, nous nous trompons un peu de combat. Pour ma part, j’estime que c’est plutôt par la régulation et en faisant peser des contraintes sur ces plateformes que nous avancerons.

Nous devons démonter leur fonctionnement et démontrer que leur modèle économique est toxique non seulement pour les mineurs, mais pour l’ensemble de la société et du débat public.

Je le rappelle, une élection a été annulée en raison de manipulations liées à ces plateformes. On voit bien le danger qu’elles font peser. Ce n’est pas uniquement en interdisant leur accès aux mineurs que nous arriverons à contrer de tels phénomènes. Sur ce sujet, il va falloir que nous avancions très vite et beaucoup plus fort que ne le fait ce texte.