MtoM Mag - Le journal de l'MtoM.

Alors que la technologie continue de prendre une place de plus en plus importante dans nos vies, une question importante se pose : quel niveau de confiance pouvons-nous et devrions-nous accorder aux systèmes utilisant l’intelligence artificielle ?

C’est précisément la question à laquelle la Commission européenne a entrepris de répondre avec sa proposition de loi sur l’intelligence artificielle. « En matière d’intelligence artificielle, la confiance est un impératif, et non un plus à avoir », a déclaré Margrethe Vestager, la vice-présidente exécutive de la Commission européenne, pour une Europe adaptée à l’ère numérique, dans un communiqué de presse datant d’avril. « Avec ces règles historiques, l’UE devient le fer de lance du développement de nouvelles normes mondiales pour s’assurer que l’on peut faire confiance à l’IA. »

Si nous sommes tous d’accord avec cela, le nouveau règlement ne résoudra pas entièrement le problème. Pour qu’une loi ait un pouvoir absolu et soit durable, il faut une équipe de personnes dignes de confiance pour faire appliquer les règles et susciter une plus grande sensibilisation aux technologies. Au sein des organisations, c’est au directeur de la sécurité des systèmes informatiques (DSSI) qu’il reviendra de diriger mise en œuvre et éducation. Traditionnellement, un DSSI évalue les bénéfices d’une technologie par rapport aux risques de sécurité qui peuvent potentiellement compromettre la pérennité d’une organisation. Avec l’essor des nouvelles technologies et des réglementations qui en découlent, le rôle du DSSI s’élargit pour assurer la conformité de l’entreprise à des réglementations telles que le RGPD et éduquer les employés sur les exigences en matière de données personnelles afin de garantir la sécurité de tous.

Bouleverser le statu quo technologique

Face aux inquiétudes croissantes des consommateurs et des citoyens et à la nécessité de renforcer éthique et confiance, nous devons fixer des limites pour garantir une utilisation saine et équitable des technologies d’IA. La nouvelle loi européenne sur l’intelligence artificielle est bénéfique car elle dictera les règles et obligera les entreprises à examiner les implications sociétales de l’adoption rapide des technologies.

Nous devons trouver un équilibre entre les bénéfices et les risques liés à chaque technologie. Avec l’émergence des applications basées sur l’IA, la surveillance traditionnelle par exemple se transforme en vidéo intelligente avec de nouveaux cas d’utilisation qui vont au-delà de l’image que nous nous faisons de la surveillance. Malheureusement, sous prétexte de protection, les opérateurs de caméras risquent d’exposer la vie privée de millions d’individus. Nous devons être très vigilants quant aux types de données collectées et veiller à leur sécurité.

Toute utilisation et innovation technologique doit être transparente et explicable. En 2020, pour lutter contre l’épidémie de la Covid-19, la France a lancé son application de traçage. Mais son adoption a été incroyablement faible car la plupart des citoyens ont remis en question la technologie utilisée et la manière dont les données étaient collectées et stockées. Cela a obligé le gouvernement français à repenser son approche et à lancer une nouvelle version « enrichie » de l’application.

Des histoires comme celle-ci ne sont pas uniques. Rappelez-vous ce qui s’est passé lorsque la pandémie a amené le gouvernement britannique à éliminer les notes prédites par les enseignants au profit d’un algorithme basé sur les performances passées des écoles, parce-que les examens ont dû être annulés ? Ou encore l’Apple Card, qui favorisait les hommes par rapport aux femmes en raison d’un manque de données sexospécifiques ?

Nous devons adopter une approche à 360 degrés pour tout usage technologique. Pour exploiter pleinement l’IA, nous devons examiner l’infrastructure en place, les algorithmes impliqués dans le processus, la qualité des données dont nous disposons, les personnes qui y ont accès et les protocoles de sécurité. L’approche doit inclure une plus grande transparence sur les données utilisées et l’éducation des personnes impactées par la technologie. Qu’il s’agisse de nouvelles méthodes de travail, de nouvelles technologies ou d’un autre type de changement, l’histoire est toujours la même. Cela prend du temps et demande des efforts mais, au final, instaurer la confiance est le seul moyen d’entreprendre une transformation numérique réussie.

Un rôle à la croisée des chemins

Le rôle du directeur de la sécurité des systèmes informatiques évolue à un rythme plus rapide que jamais. Les réglementations changent constamment la façon dont les organisations mènent leurs activités. Il y a vingt ans, le travail consistait essentiellement à gérer les pares-feux et à sécuriser les périmètres. Il n’était pas nécessaire d’en savoir beaucoup sur ce que l’on protégeait, si on savait quelles solutions technologiques permettraient de protéger les systèmes d’une entreprise. Le monde d’aujourd’hui est radicalement différent. Les technologies numériques ont infusé chaque partie de l’entreprise et des processus décisionnels, augmentant le niveau de risque et, par conséquent, transformant le rôle du DSSI. Nous voyons des couples inattendus se former ; c’est le cas du DSSI et du juridique, parce que les deux fonctions se croisent sur la gouvernance des données notamment. Le DSSI doit à la fois soutenir la croissance de l’entreprise tout en veillant à la sécurisation des données et des opérations.

Le futur DSSI guidera une organisation à travers une transformation rapide et un marché en changement constant. Alors que nous recherchons les moyens les plus performants pour guider nos décisions grâce aux données, l’IA, le machine learning et l’automatisation des processus robotiques feront inévitablement partie de ce processus. La loi européenne sur l’intelligence artificielle pose les fondations d’une économie numérique durable avec le DSSI au cœur et acteur de cet avenir axé sur les données de confiance.

https://www.talend.com/