Amendement n° COM-34 Sénat

Alinéa 13

Après cet alinéa, insérer un alinéa ainsi rédigé :

L’utilisation des modèles conçus lors de la phase d’apprentissage sont conditionnée à l’obtention d’un niveau de performance suffisamment élevé à son issue, tant en comparaison de l’état de l’art qu’au regard des besoins des équipes opérationnelles.

Si l’article 7 du projet de loi insiste sur la fiabilité des données, l’objectivité et la pertinence des critères d’apprentissage ainsi que sur la stricte nécessité des méthodes appliquées, il convient de compléter ces garanties en prévoyant que les modèles conçus lors de la phase d’apprentissage sont conditionnés à l’obtention d’un niveau de performance suffisamment élevé à son issue, tant en comparaison de l’état de l’art qu’au regard des besoins des équipes opérationnelles.

En particulier, la CNIL recommande que ce niveau de performance soit évalué au regard de l’impact potentiel pour les personnes que peuvent avoir par exemple un faux positif ou un faux négatif à la sortie du traitement algorithmique.