Amendement n° 350
LOI n° 2023-1196 du 18 décembre 2023 pour le plein emploi (1)
Dispositif
Après l’alinéa 21, insérer l’alinéa suivant :
« Cette décision d’orientation ne peut être prise par un système d’information que sous réserve qu’un agent des organismes mentionnés au présent II contrôle le bien-fondé de l’orientation proposée. »
Ce que ça change · analyse IA
Imposer un contrôle humain obligatoire avant toute décision algorithmique d'orientation des demandeurs d'emploi.
Intention : Verrouiller la possibilité d'une orientation entièrement automatisée en imposant l'intervention d'un agent humain, afin de préserver le lien humain et la responsabilité personnelle dans une décision qui affecte profondément la trajectoire professionnelle.
L'amendement vise à créer un verrou : aucune orientation de demandeur d'emploi ne pourrait être finalisée par un algorithme sans validation préalable d'un agent humain (Pôle Emploi, missions locales, département). Les socialistes reposent sur l'argument que l'orientation est une décision « hautement sensible » exigeant empathie et compréhension humaine que les algorithmes ne possèdent pas. Ce qui sous-tend le débat : le gouvernement autorisait-il à terme une automatisation complète des décisions d'orientation (sans contrôle human-in-the-loop), ou entendait-il maintenir la primauté de l'agent ? Le rejet de cet amendement révèle que le législateur a préféré ne pas constitutionnaliser un droit à la révision humaine obligatoire, laissant ouvert le régime des autorisations d'usage des algorithmes et acceptant que des décisions puissent être « rendues » par la machine sans vérification systématique.
Exposé sommaire
Cet amendement des députés socialistes et apparentés vise à garantir qu’aucun traitement algorithmique ne réalisera les décisions d’orientation des demandeurs d’emploi sans un contrôle effectué par un agent de Pôle Emploi, du Département, des missions locales, etc.
L’orientation des demandeurs d’emploi nous semble en effet une décision hautement sensible et demandant des qualités d’empathie et de compréhension de l’humain, de ses émotions, etc. que ne possèdent pas les algorithmes, quand bien-même ils relèveraient de « l’intelligence artificielle ».
Nous proposons donc ici de poser un garde-fou et de garantir que l’orientation fasse l’objet d’une étape de vérification par un agent humain.
Le débat en séance (compte rendu)
Cet amendement est rattaché à une séance mais n'apparaît pas dans le compte rendu (amendement non soutenu, retiré avant discussion ou discuté en groupe sans mention individuelle).