Une faille inquiétante dans la reconnaissance faciale italienne fait allusion à l’avenir de l’UE

L’Italie a introduit une nouvelle interdiction de reconnaissance faciale, mais elle comporte une exemption flagrante qui devrait faire écho dans toute l’UE.

La nouvelle décision interdit l’utilisation de la technologie de reconnaissance faciale (FRT) – sauf si il est utilisé pour la lutte contre le crime ou les enquêtes judiciaires. Protection des données en Italie L’agence s’est engagée à maintenir l’interdiction jusqu’à l’adoption d’une nouvelle législation, ou au moins jusqu’à la fin de 2023.

“Le moratoire découle de la nécessité de réglementer les conditions d’éligibilité, les conditions et les garanties relatives à la reconnaissance faciale, dans le respect du principe de proportionnalité”, a déclaré lundi l’organisme de surveillance. une déclaration.

Salutations, humanoïdes

Abonnez-vous à notre newsletter maintenant pour un récapitulatif hebdomadaire de nos histoires préférées sur l’IA dans votre boîte de réception.

Les défenseurs des droits civiques ont accueilli avec prudence les nouvelles restrictions, mais ont fait part de leurs inquiétudes quant au fait que les lacunes pourraient être manipulées.

« Cela affecterait toute utilisation privée. De toute évidence, d’énormes questions sur l’interprétation large de la « lutte contre le crime », mais je suis intéressé à regarder cela », a tweeté Calli Schroeder, Global Privacy Counsel au Electronic Privacy Information Center (EPIC).

Les nouvelles règles en Italie arrivent au milieu de débats houleux dans l’UE sur les restrictions FRT. Le bloc se dirige vers l’approbation du point de repère Loi sur l’IAqui deviendrait le premier cadre juridique complet au monde pour l’intelligence artificielle.

Le FRT s’est avéré être un élément de division des propositions. Une majorité de législateurs de l’UE maintenant vouloir interdire utilisation de la technologie pour scanner les foules sans discernement et en temps réel. Ces restrictions, cependant, sont définies pour laisser des exceptions aux services de police.

Les partisans de ces dispenses affirment qu’ils aider à lutter contre la criminalitémais les opposants avertissent que ils sont mûrs pour l’abus. En septembre, Dragos Tudorache, membre du Parlement européen (MPE) et co-rapporteur de la loi sur l’IA, dit les exemptions poserait «un contrôle et une responsabilité très difficiles».

Nous devrions — et je ferai de mon mieux pour — avoir une interdiction complète au Parlement.

Les critiques se méfient des règles conduisant à une surveillance de masse et à un maintien de l’ordre oppressif. Ces risques sont particulièrement aigus pour les groupes marginalisés et les dissidents, qui sont victimes de manière disproportionnée de IA discriminatoire et résultats FRT inexacts.

Ces résultats ont été attribués aux préjugés de la police, données d’entraînement non représentatives, et une combinaison des deux. Les militants craignent que le FRT soit algorithmiquement renforcer et automatiser préjugés humains.

Ces dangers ont également attiré les inquiétudes des législateurs. La semaine dernière, Brando Benifei, député européen italien et co-rapporteur de la loi sur l’IA, a appelé à la nouvelle réglementation de l’UE inclure une interdiction pure et simple sur la surveillance biométrique de masse.

“Aujourd’hui, il existe deux échappatoires différentes dans l'”interdiction” proposée par la Commission : les espaces privés et la reconnaissance “ex-post” ne sont pas couverts, mais il existe également des exceptions concernant certaines enquêtes et poursuites pénales”, a-t-il déclaré. “Nous devrions – et je ferai de mon mieux pour – avoir une interdiction complète au Parlement.”

Les règles finales sont toujours en cours d’élaboration dans l’UE, mais elles pourraient être convenues d’ici la mi-novembre. En tant que première tentative mondiale de réglementation horizontale de l’IA, les répercussions s’étendront au-delà du bloc.