Le Parlement européen a mis en garde, mercredi, contre le recours accru de la police à l'intelligence artificielle (IA), et ce pour ne pas tomber dans la surveillance de masse.
Dans une résolution adoptée ce mercredi par 377 voix pour, 248 contre et 62 abstentions, les députés soulignent les risques liés à l’utilisation sans limites de l’IA et propose des recommandations pour assurer le respect de la vie privée des personnes soumises à systèmes alimentés par l’IA.
D’après le texte, les systèmes d’identification basés sur l’IA commettent déjà un nombre disproportionné d’erreurs d’identification des groupes ethniques minoritaires, des personnes LGBTI, des personnes âgées et des femmes. « Ce qui est préoccupant dans le contexte de l’application de la loi et du système judiciaire », indiquent les eurodéputés dans un communiqué publié sur le site du Parlement européen.
Pour garantir le respect de la vie privée, « les algorithmes devraient être transparents, traçables et suffisamment documentés », insistent les députés.
Pour garantir la vie privée et la dignité humaine, les députés demandent une interdiction permanente de la reconnaissance automatisée des individus dans les espaces publics, faisant remarquer que les citoyens ne devraient être surveillés que lorsqu’ils sont soupçonnés d’un crime. De même, le Parlement demande d’interdire l’utilisation de bases de données privées de reconnaissance faciale (comme le système Clearview AI, qui est déjà utilisé) et la police prédictive basée sur des données comportementales.
Par ailleurs, les députés veulent interdire les systèmes de notation sociale qui tentent d’évaluer la fiabilité des citoyens en fonction de leur comportement ou de leur personnalité.
Enfin, le Parlement s’inquiète de l’utilisation des données biométriques pour l’identification à distance. Par exemple, les portiques de contrôle frontalier basés sur la reconnaissance automatique et le projet iBorderCtrl (un système intelligent de détection de mensonges pour l’entrée des voyageurs dans l’UE) devraient être abandonnés, estiment les députés, qui invitent la Commission européenne à ouvrir des procédures d’infraction contre les États membres si nécessaire.
© Copyright LaPresse
