Amendement n° 218

Nous reprenons la discussion relative à la surveillance de masse que permet la vidéosurveillance algorithmique (VSA). Ce matin même, en commission des lois, nous avons auditionné Mme Marie-Laure Denis, présidente de la Commission nationale de l’informatique et des libertés (Cnil), qui a souligné les dangers que de tels outils peuvent représenter pour les libertés publiques. En outre, ce sont des entreprises qui gèrent ces dispositifs et créent les algorithmes. Ces derniers ne font donc l’objet d’aucun contrôle réel de la part des pouvoirs publics. À nos yeux, on introduit ainsi une part de subjectivité qui n’a pas lieu d’être dans les opérations de maintien de l’ordre.Il faut savoir que des villes se sont d’ores et déjà dotées d’instruments de vidéosurveillance algorithmique, ce qui contrevient d’ailleurs à la loi puisqu’à ce jour, ils ne sont autorisés que pour des événements tels que les Jeux olympiques.Par l’amendement no 229, nous demandons donc purement et simplement que les dispositions prévues pour les JO de 2024 ne soient pas reconduites pour les JO de 2030.Les amendements no 230, 215 et 231 s’inscrivent dans la même logique.Les amendements de repli nos 220 et 221 portent sur l’algorithme, un élément qui est au cœur de notre réflexion sur ces questions. En effet, nous ne savons pas comment est conçu, du point de vue informatique, le code de l’algorithme. Par ailleurs, celui-ci permet de recourir à une identification biométrique – nous nous engageons donc sur une pente glissante.Pourtant, en 2022, le gouvernement et le président de la République lui-même avaient émis des réserves concernant des outils de ce type, qui font peser des risques sur les libertés publiques.La moindre des choses serait donc que l’on puisse connaître le fonctionnement des algorithmes développés et utilisés dans un objectif de vidéosurveillance. Cet enjeu nous semble essentiel.

La parole est à Mme Élisa Martin, pour soutenir l’amendement no 217.

Permettez-moi d’abord d’exprimer un regret. Nous pensions que M. Nuñez serait présent ce soir, étant donné que c’est le ministère de l’intérieur qui sera chargé d’appliquer toutes les mesures liberticides dont nous parlons. Je pensais d’ailleurs que l’organisation des débats avait été modifiée justement pour lui permettre de nous rejoindre.Je le regrette d’autant plus qu’il aurait pu nous expliquer comment les services de renseignement préparent ce rendez-vous important – ne serait-ce que parce qu’il réunira un grand nombre de personnes.Soyons clairs et reconnaissons au moins que la biométrie fait l’objet d’un débat. Or il en est question avec ce texte, puisque dès lors qu’on identifie la posture d’un corps, on entre dans le champ des données biométriques – celui-ci ne se limite pas à la reconnaissance faciale. Sans doute poursuivrons-nous ce débat. En tout état de cause, il n’est pas possible de s’en extraire en prétendant qu’avec ce texte, il n’est pas question de dispositif de reconnaissance des individus. J’insiste : si l’on cherche à détecter certaines postures corporelles, on entre dans le champ de la biométrie.Par ailleurs, puisque nous imposons les JO aux citoyens, nous avons au moins le devoir de leur expliquer comment se déploie la technologie de vidéosurveillance algorithmique – c’est d’ailleurs l’objet de plusieurs amendements de cette discussion commune.

Après le no 217, relatif à la destruction des données, cet amendement no 228 porte sur la reconnaissance faciale.Je vous donne un exemple très simple. Si vous consultez le site de l’entreprise Two-I, partenaire des JO de 2024, vous constaterez que ce qu’elle propose va bien plus loin que la simple reconnaissance de posture et que nous nous dirigeons bel et bien vers des dispositifs de reconnaissance faciale, autrement dit de reconnaissance de l’identité.Aujourd’hui, des logiciels permettent – grâce aussi à des équipements vidéo, évidemment – de déterminer en temps réel l’identité de toutes les personnes présentes au sein d’une foule, même très dense. Si une telle perspective ne vous inquiète pas, c’est que vous n’avez pas encore lu 1984 d’Orwell. Car le danger pour les libertés publiques est réel et massif.

Complotistes !

C’est la réalité !

J’aimerais revenir sur le sujet que j’évoquais il y a quelques instants. Sachez que la Défenseure des droits elle-même indique qu’à partir du moment où l’on cherche à détecter une posture corporelle, on entre dans le champ de la biométrie.De surcroît, chacun sait que si l’on dispose d’un logiciel et des outils techniques permettant d’assurer une vidéosurveillance algorithmique, il suffit de cocher une case pour recourir à la reconnaissance faciale. Si telle n’était pas votre intention, vous serez évidemment favorables à l’amendement no 228, qui vise à interdire l’utilisation des procédés de reconnaissance faciale.Par ailleurs, nous nous devons honnêteté et transparence. Reconnaissez donc que si vous voulez procéder à une expérimentation jusqu’en 2027, c’est aussi pour permettre aux entreprises françaises d’accéder à une immense banque d’images destinées à entraîner les logiciels. Car nous savons bien que ces outils ne sont pas magiques et ont besoin d’analyser un très grand nombre d’images pour pouvoir fonctionner et gagner en « fiabilité » – comme vous pouvez l’imaginer, je mets beaucoup de guillemets.Depuis le début de l’examen du projet de loi, notamment sur ce titre qui traite de la sécurité, nous parlons donc de mesures liberticides qui relèvent du tout-sécuritaire – sans oublier les enjeux économiques, puisque nous avons bien compris que l’objectif était aussi que les entreprises françaises se fassent une place sur ce nouveau grand marché mondial.

La parole est à M. Jean-François Coulomme, pour soutenir l’amendement no 219.

Il porte sur les effets de bord liés à la détention par les entreprises de données potentiellement sensibles. Une fois collectées, ces données pourraient en effet être négociées et revendues à des entreprises choisissant de les utiliser à d’autres fins. Par exemple, une entreprise commerciale pourrait décider d’acheter les données liées à l’identité ou au profil des personnes dont l’image a été captée en vidéo pour produire une campagne publicitaire.Cet amendement vise donc à interdire la revente des données collectées à d’autres opérateurs ou entreprises privés.Je tiens également à préciser que de telles pratiques constituent à l’évidence une infraction au règlement général sur la protection des données (RGPD). En effet, les personnes dont les données sont collectées n’ont aucun moyen de donner leur consentement. De ce point de vue, un recours devant le Conseil constitutionnel nous semblerait justifié.

La parole est à Mme Véronique Riotton, rapporteure pour avis de la commission des lois constitutionnelles, de la législation et de l’administration générale de la République, à laquelle la commission des affaires culturelles a délégué l’examen des articles 31 à 35, pour donner l’avis de la commission.

Nous avons longuement expliqué hier soir pourquoi l’expérimentation prévue était intéressante. Je vous renvoie donc aux arguments que j’ai exposés lors de cette séance.J’émets un avis défavorable sur l’ensemble des amendements, notamment le no 229, qui tend à abroger l’article de la loi de 2023 autorisant l’expérimentation, et le no 230, qui vise à mettre fin à cette dernière.Par ailleurs, je rappelle que les images sont détruites à la fin de l’expérimentation. Par conséquent, l’argument selon lequel les données collectées pourraient être revendues est nul et non avenu.Enfin, madame Martin, vous entretenez à dessein une confusion en parlant de reconnaissance faciale ou d’utilisation de données biométriques. Or il n’est question ici ni de l’une ni de l’autre. Il s’agit uniquement de recourir à l’intelligence artificielle dans des cas d’usage bien déterminés.

La parole est à Mme la ministre des sports, de la jeunesse et de la vie associative, pour donner l’avis du gouvernement.

La revente n’est pas interdite !

Je demande donc le retrait de ces amendements et émettrai, à défaut, un avis défavorable.

La parole est à Mme Marie-José Allemand.

Madame la rapporteure, vous avez expliqué que nous avions longuement débattu de ces questions hier soir. Certes, mais comme l’a rappelé M. Coulomme, un fait nouveau s’est produit depuis : nous avons auditionné la présidente de la Cnil.

Ce n’est pas la Cnil qui vote la loi !

Voici, mot pour mot, ce qu’elle a dit à propos de la surveillance algorithmique : « Avec cette technologie, on passe un cap. C’est un changement de nature, et non plus seulement de degré, s’agissant de la surveillance de la population. En effet, la surveillance est permanente sur un espace donné. Ce que l’on peut dire de positif sur l’évaluation menée pour les JO de 2024, c’est qu’elle a vraiment eu lieu et que le rapport est très précis. Les résultats sont finalement très décevants : de nombreux faux positifs pour la détection d’armes et de chutes. Les avantages de cette technologie sont bien moindres lorsqu’il y a une présence humaine sur le terrain. » Vous devez aussi écouter ce que l’on vous dit sur ces questions.

La parole est à Mme Élisa Martin.

Ce n’est pas parce que vingt-quatre heures ont passé que vous pouvez dire aujourd’hui que vous avez donné des arguments. Vous n’en donnez jamais !

Elles ont répondu pendant dix minutes hier ! Vous ne les avez pas écoutées !

Vous ne pouvez pas dire ça ! C’est de la mauvaise foi !

Vous ne vous positionnez jamais en défenseures des droits et des libertés – à aucun moment.

Si !

De surcroît, nous ne confondons pas la reconnaissance faciale et les autres procédés. Nous vous disons que la notion de données biométriques est à tout le moins ambiguë et que le fait d’identifier une posture corporelle relève de la biométrie. Il me semble que c’est assez clair !Vous affirmez que les procédés de reconnaissance faciale sont exclus du dispositif de l’expérimentation. Inscrivez donc dans la loi, comme nous vous y invitons, qu’il est interdit d’y recourir lors de grands événements ou de grands rassemblements – car je vous rappelle que ces cas d’usage seront définis par décret et non pas en fonction de critères spécifiques, ce qui pose évidemment des difficultés.Où est donc le problème ? Tout simplement, vous ne voulez pas inscrire dans la loi que l’Assemblée nationale se prononce contre ce type de technologies. Quelle autre conclusion pouvons-nous tirer de votre attitude ?

La parole est à M. le président de la commission des lois constitutionnelles, de la législation et de l’administration générale de la République.

Je voudrais compléter les propos de Marie-José Allemand. Nous avons auditionné ce matin la présidente de la Cnil, qui a rappelé que cette dernière était chargée du contrôle de l’usage de la VSA. C’est donc bien une autorité administrative indépendante (AAI) qui contrôle et accompagne cet usage, contrairement à ce qui a été affirmé hier soir, lorsqu’on prétendait que l’avis de la Cnil n’avait pas été sollicité.Par ailleurs, la présidente de la Cnil a en effet évoqué à propos de la surveillance algorithmique un changement de nature, mais il faut aller au bout de son propos, que je me rappelle parfaitement – l’audition a duré quelques heures, ce qui nous a permis de la maturer. D’après elle, le changement de nature en question tient à ceci : alors que l’œil humain était jusqu’ici seul à pouvoir détecter des silhouettes ou des modifications de mouvements, une machine peut désormais le faire plus efficacement. Elle a aussitôt ajouté que tout ceci était contrôlé par l’être humain, non par des machines.Élisa Martin, vous avez dit à l’instant que nous n’argumentions jamais. C’est un mensonge. Pardon, mais vous dites une grosse bêtise ! Nous avons passé beaucoup de temps à argumenter, que ce soit hier ou en commission des lois.

Vous, oui ! Mais pas Mme la ministre !

Je rappelle que la VSA ne permet en aucune manière de prendre des décisions individuelles concernant telle ou telle personne. Elle ne peut pas davantage servir de support à une procédure judiciaire.

Encore heureux !

Vous avez prétendu le contraire ! Jean-François Coulomme, nous nous connaissons bien : vous avez parlé de système autoritaire et liberticide, affirmé que sur la base des informations recueillies par VSA, on embastillerait un nombre incalculable de Français, des millions de personnes ! Mme Cathala l’a également dit hier soir !En réalité, aucune décision individuelle administrative ne peut être prise, aucune procédure judiciaire menée en s’appuyant sur la VSA. J’ai rappelé en outre l’existence de certaines garanties, notamment le fait que l’expérimentation sera bel et bien sous le contrôle d’une AAI, comme l’a rappelé ce matin la présidente de la Cnil. D’ailleurs, nous devrions être bien plus nombreux à soutenir la place, au sein de nos institutions, de ces autorités.

Ça, oui !

Je mets aux voix l’amendement no 215.

Voici le résultat du scrutin :        Nombre de votants                        87        Nombre de suffrages exprimés                53        Majorité absolue                        27                Pour l’adoption                21                Contre                32

Je mets aux voix l’amendement no 217.

Voici le résultat du scrutin :        Nombre de votants                        87        Nombre de suffrages exprimés                65        Majorité absolue                        33                Pour l’adoption                21                Contre                44

Je mets aux voix l’amendement no 228.

Voici le résultat du scrutin :        Nombre de votants                        86        Nombre de suffrages exprimés                53        Majorité absolue                        27                Pour l’adoption                21                Contre                32

Voici le résultat du scrutin :        Nombre de votants                        87        Nombre de suffrages exprimés                53        Majorité absolue                        27                Pour l’adoption                21                Contre                32