MtoM Mag - Le journal de l'MtoM.

Mettre à jour les règles de sécurité et de responsabilité de l’UE au vu des produits reposant sur l’IA.

 Utiliser des algorithmes non biaisés et des structures de contrôle.

 Garantir que l’homme reste au final le maitre de la situation.

Le Parlement appelle à un ensemble de droits solides afin de protéger les consommateurs dans le contexte de l’intelligence artificielle et de la prise de décision automatisée.

La résolution, adoptée mercredi en plénière, aborde plusieurs défis découlant du développement rapide des technologies de l’intelligence artificielle (IA) et de la prise de décision automatisée (ADM), en se concentrant sur la protection des consommateurs.

Le Parlement salue le potentiel de l’ADM à fournir des services innovants et améliorés aux consommateurs, notamment de nouveaux services numériques tels que les assistants virtuels et les dialogueurs ("chatbots"). Cependant, lorsque les consommateurs interagissent avec un système qui automatise la prise de décision, ils devraient être correctement informés de son fonctionnement, de la façon de contacter un humain détenant le pouvoir de décision, et de la manière dont les décisions du système peuvent être vérifiées et corrigées, ajoute le PE.

Ces systèmes devraient seulement utiliser des ensembles de données de haute qualité et non biaisées, ainsi que des algorithmes explicables et non biaisés, souligne la résolution. Des structures de contrôle devraient être mises en place afin de remédier aux éventuelles erreurs dans les décisions automatisées. Par ailleurs, il devrait être possible pour les consommateurs de demander réparation pour les décisions automatisées qui sont définitives et permanentes.

"L’homme doit toujours être responsable en dernier ressort de la prise de décision" pour les services professionnels tels que les professions dans le domaine médical, juridique et comptable, du secteur bancaire, et être en mesure de les annuler, précisent les députés.

Le Parlement demande un système d’évaluation des risques pour l’IA et l’ADM ainsi qu’une approche européenne commune pour aider à garantir les avantages de ces processus et atténuer les risques dans l’UE.

Adapter les règles sur la sécurité et la responsabilité pour couvrir les nouvelles technologies

Les députés exhortent la Commission européenne à présenter des propositions pour actualiser les règles européennes sur la sécurité (par exemple les directives sur la sécurité des machines et des jouets). L’objectif est de garantir que les consommateurs soient mieux informés sur la façon d’utiliser ces produits et protégés contre les dangers, tout en veillant à ce que les fabricants aient une idée claire de leurs obligations.

La directive sur la responsabilité du fait des produits, adoptée il y a plus de 30 ans, devrait également être actualisée afin de s’adapter à des concepts tels que "produit", "dommages" ou "défaut", ainsi que les règles régissant la charge de la preuve, affirme le Parlement.

Tarification différentiée et discrimination

Conformément à la législation européenne, les commerçants doivent informer les consommateurs lorsque les prix des biens ou des services ont été personnalisés sur la base d’une prise de décision automatisée, rappellent les députés. Ils demandent à la Commission de surveiller de près la mise en œuvre de ces règles. Par ailleurs, l’UE doit aussi s’assurer que l’ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.

Prochaines étapes

La résolution, adoptée à main levée, sera transmise au Conseil de l’UE (États membres) et à la Commission, afin qu’ils puissent prendre en compte l’avis des députés sur l’intelligence artificielle et la prise de décision automatisée. Comme l’a annoncé la Commission, des propositions élaborant l’approche de l’UE envers l’IA devraient être présentées le 19 février 2020.

http://www.europarl.europa.eu/