MtoM Mag - Le journal de l'MtoM.

Le Parlement européen vient de voter à une large majorité en faveur du projet d’IA Act. L’ambition de ce texte est grande : réguler l’intelligence artificielle en instaurant des règles éthiques. Mais il s’agit d’aller encore plus loin en travaillant sur une réglementation mondiale de l’IA, qui ne connaît pas de frontières.

Le projet de loi voté aujourd’hui avait été largement amendé par les commissions du marché intérieur et des libertés civiles du Parlement européen le 11 mai dernier. Ceux-ci avaient travaillé sur le texte initial de la Commission européenne, et approuvé par le conseil européen. Mais les parlementaires avaient dû en urgence aborder les questions brûlantes posées par les IA génératives, telles que ChatGPT.

Brando Benifei, co-rapporteur, a déclaré qu’« il est essentiel de renforcer la confiance de nos citoyens dans le développement de l’IA, de définir une voie européenne face aux changements extraordinaires qui se produisent déjà, et de peser sur le débat politique consacré à l’IA au niveau mondial. »

Dans leurs amendements, les députés visent à garantir que les systèmes d’IA bénéficient d’un contrôle humain, qu’ils sont sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement.

L’IA Act distingue les IA selon leur niveau de risque. En haut de l’échelle, les IA qui contrecarrent notre notre système de valeurs, dangereuses donc, et par voie de conséquence, interdites :

 les systèmes d’identification biométrique à distance "en temps réel" dans les espaces accessibles au public, par ex, la reconnaissance faciale ;

 les systèmes d’identification biométrique à distance "a posteriori", à la seule exception des services répressifs pour la poursuite d’infractions graves et seulement après autorisation judiciaire ;

 les systèmes de catégorisation biométrique utilisant des données sensibles (par exemple, le genre, la race, le statut de citoyenneté, la religion, l’orientation politique) ;

 les systèmes de police prédictifs (basés sur le profilage, la localisation ou le comportement criminel antérieur) ;

 les systèmes de reconnaissance des émotions (dans les domaines de l’application de la loi, de la gestion des frontières, sur le lieu de travail et dans les établissements d’enseignement) ;

 La récupération aveugle de données biométriques provenant des médias sociaux ou de la vidéosurveillance pour créer des bases de données de reconnaissance faciale (violation des droits humains et du droit à la vie privée).

Le texte va donc entrer dans la phase de trilogue, dès aujourd’hui, à savoir les discussions informelles entre les institutions européennes pour aboutir à un texte définitivement adopté d’ici la fin de l’année.

Ces discussions seront sans nul doute intenses. Il conviendra de voir si le curseur a été mis au bon endroit par les parlementaires concernant les IA génératives. Elles ont aujourd’hui un régime spécifique.

L’Europe serait donc la première au monde à réguler l’IA ! Après adoption de l’IA Act, les entreprises auront deux ans pour se mettre en conformité de la loi.

Mais l’innovation et les technologies ne connaissant pas de frontières, pour éviter de créer un appel d’air vers des espaces moins régulés, il faut aller plus loin, sans attendre, et travailler sur une réglementation mondiale de l’IA.

https://www.pavleas-avocats.com/