Amendement n° 1434
LOI n° 2023-703 du 1er août 2023 relative à la programmation militaire pour les années 2024 à 2030 et portant diverses dispositions intéressant la défense (1)
Dispositif
Compléter la deuxième phrase de l’alinéa 45 par les mots :
« tout en assurant la mise en place de mécanismes permettant de garantir le contrôle par l’humain, comme préconisé dans l’avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux rédigé par le Comité d’éthique de la Défense ».
Ce que ça change · analyse IA
Impose une supervision humaine systématique dans les décisions des drones pour éviter l'autonomie décisionnelle des machines.
Intention : Verrouiller la responsabilité juridique et éthique en interdisant toute délégation de la décision létale ou critique à une intelligence artificielle.
L'amendement vise à sanctuariser le principe de l'intervention humaine dans les systèmes de drones. En l'adoptant, le législateur refuse de laisser la porte ouverte à une délégation de la force ou de la décision à des algorithmes autonomes. Cela révèle une volonté de fixer une limite éthique et juridique claire : la machine peut assister, mais l'humain doit rester le seul responsable de l'acte final, empêchant ainsi une dérive vers des systèmes de combat ou de surveillance totalement automatisés.
Exposé sommaire
Le présent amendement du groupe “Écologiste-NUPES” propose de préciser le rôle de l’humain dans les boucles de décisions des futurs systèmes de drones, afin d’éviter tout risque de prise de décision par la machine.
Le débat en séance (compte rendu)
Cet amendement est rattaché à une séance mais n'apparaît pas dans le compte rendu (amendement non soutenu, retiré avant discussion ou discuté en groupe sans mention individuelle).