Amendement n° 1285
LOI n° 2023-1196 du 18 décembre 2023 pour le plein emploi (1)
Dispositif
Compléter l’alinéa 26 par la phrase suivante :
« Les logiciels utilisés sont publiés en open source afin de connaître les critères et modes opératoires de traitement des dossiers. »
Ce que ça change · analyse IA
Impose la publication open source des algorithmes de datamining pour éviter un usage détourné des données vers la fraude.
Intention : Verrouiller l'usage des données personnelles en imposant une transparence technique totale pour empêcher que l'outil statistique ne devienne un outil de surveillance policière des bénéficiaires du RSA.
L'amendement tente d'introduire un principe de transparence algorithmique radical face à la montée en puissance de France Travail. En proposant l'open source, l'auteur cherche à briser l'opacité des outils de détection automatique qui pourraient transformer une mission statistique en outil de surveillance et de sanction. Le rejet de cet amendement confirme la volonté du législateur de conserver la maîtrise technique et la confidentialité des méthodes de contrôle de l'État, privilégiant l'efficacité de la lutte contre la fraude sur l'exigence de transparence démocratique des outils de décision automatisés.
Exposé sommaire
La création du réseau France Travail s’accompagne d’une intensification de la collecte et du partage des données personnelles. Celles-ci risquent d’être réutilisées pour d’autres usages que les fins statistiques prévues par le texte, notamment pour détecter les fraudes. Cela constitue une atteinte aux droits des bénéficiaires du RSA.
Par cet amendement, nous souhaitons rendre obligatoire la publication en open source des logiciels utilisés (notamment les critères et modes opératoires du datamining) permettant de discuter des choix avec toutes les parties prenantes (administration, allocataire, agents, partenaires).
Le débat en séance (compte rendu)
Cet amendement est rattaché à une séance mais n'apparaît pas dans le compte rendu (amendement non soutenu, retiré avant discussion ou discuté en groupe sans mention individuelle).