Actualité 
Dernière ligne droite pour une nouvelle régulation du numérique dans l’Union européenne. A une écrasante majorité, les eurodéputés ont adopté mercredi 14 juin leur position sur une législation visant l’intelligence artificielle (499 voix pour, 28 contre et 93 abstentions).
Proposé par la Commission européenne en avril 2021, le texte ambitionne à la fois de développer l’intelligence artificielle face aux concurrences américaine ou chinoise et d’encadrer les risques qu’elle fait peser sur les droits fondamentaux des êtres humains. Certaines pratiques seraient bannies de l’UE, à l’image de la notation sociale pour évaluer les citoyens selon leur comportement.
Les eurodéputés ont approuvé une version renforcée du règlement, incluant une interdiction de la reconnaissance biométrique à distance. A l’issue du vote, la présidente du Parlement européen Roberta Metsola a salué “l’approche équilibrée et centrée sur l’humain” du texte. “Il n’y aura pas de compromis possible : dès que la technologie avance, il faut que cela aille de pair avec le respect des droits fondamentaux et des valeurs démocratiques”, a-t-elle ajouté, citant par exemple la protection de la vie privée.
Le règlement doit encore faire l’objet d’un accord entre eurodéputés et Etats membres. L’Union européenne entend ainsi être la première au monde à se doter d’un cadre juridique exhaustif pour encourager l’innovation, tout en limitant les dérives de l’IA. L’enjeu est de taille, les technologies concernées par le texte allant des filtres anti-spams des boîtes mails, a priori inoffensifs, jusqu’aux outils plus controversés d’identification des individus dans l’espace public.
Interdiction de la reconnaissance biométrique à distance
L’un des sujets les plus sensibles de ce texte était justement la reconnaissance biométrique à distance en direct, cette technique qui permet par exemple à une caméra d’identifier une personne dans une foule. Les conservateurs du Parti populaire européen (PPE) voulaient introduire des exceptions pour que les forces de police puissent utiliser ces outils sous certaines conditions.
C’est finalement une interdiction totale de la reconnaissance en temps réel qui a été approuvée par les parlementaires à Strasbourg. “Nous devons avoir le courage d’interdire les usages qui sont inacceptables”, a défendu le rapporteur italien Brando Benifei (S&D).
Les Etats membres ne sont pas de cet avis. Leur position votée en décembre dernier prévoit que la police puisse utiliser la reconnaissance fondée sur des données biométriques en cas d’attaque terroriste ou pour rechercher un enfant disparu. Ces opérations seraient réalisées sous la houlette d’une autorité indépendante, judiciaire ou administrative. La version proposée par la Commission européenne en 2021 ouvrait déjà la voie à la reconnaissance biométrique à distance et en direct pour les mêmes raisons.
Parmi les interdictions réclamées par le Parlement européen, figure également les systèmes de reconnaissance des émotions utilisés par les forces de l’ordre, pour la gestion des frontières, au travail et à l’école. Une nouveauté par rapport à la position du Conseil, qui a seulement introduit une obligation d’informer les utilisateurs s’ils sont soumis à une IA pouvant reconnaître leur enthousiasme ou leur colère. “Les émotions ne peuvent pas être numérisées. La volonté, le jugement, la conscience nous appartiennent”, a insisté la présidente du Parlement européen Roberta Metsola.
La police prédictive fondée sur les données personnelles ou la création de bases de données de reconnaissance faciale via la vidéosurveillance ont également été ajoutées à la liste des interdictions par les députés européens.
ChatGPT dans le viseur
La règlementation doit aussi concerner les IA génératives, telles que ChatGPT ou MidJourney. Ces systèmes sont capables de générer des textes, des sons ou des images en réutilisant des contenus déjà existants.
Les députés européens ont introduit une plus grande protection du droit d’auteur. L’utilisation de données couvertes par la propriété intellectuelle pour l’entraînement des outils d’intelligence artificielle devra être rendue publique.
Les systèmes d’IA générative devront aussi respecter d’autres exigences de transparence, en mentionnant par exemple aux utilisateurs que le contenu a été généré par de l’intelligence artificielle. Les concepteurs auront par ailleurs l’obligation d’offrir des garanties contre la génération de contenus illicites.
Les rapporteurs du Parlement européen défendent un texte “équilibré” qui ne bride pas l’innovation en matière d’IA en Europe. Les eurodéputés ont ainsi prévu des exceptions pour les activités de recherche et les composants d’intelligence artificielle sous licence libre.
Et ensuite ?
Le Parlement européen est désormais prêt à négocier avec les Etats membres et la Commission européenne en trilogue. Reste que le règlement ne devrait pas entrer en application avant 2026, dans le meilleur des cas, les délais d’application étant souvent de deux ans. La présidente Roberta Metsola a toutefois admis des “inquiétudes” face aux risques de manipulation à l’approche des élections européennes de juin 2024. De là à accélérer l’entrée en vigueur du règlement si un accord intervenait rapidement entre les institutions ? “Il est possible que les entreprises s’alignent sur ces règles en amont de l’application de la législation”, a avancé le député Brando Benifei.
Signe que les législateurs de l’UE tiennent à ce texte, ces discussions doivent débuter dès mercredi soir. Parmi d’autres, le sujet de l’identification biométrique à distance fera sans doute l’objet de longues heures de négociations entre eurodéputés et Etats membres. Le corapporteur roumain Dragoş Tudorache (Renew) l’a admis mercredi : “Nous avons du pain sur la planche avec le Conseil”.
Infographies 
Podcasts 
Synthèse 
Questions-Réponses