MtoM Mag - Le journal de l'MtoM.

Le web et plus encore, les réseaux sociaux, ont démultiplié la création et la diffusion des fake news. L’IA et en particulier, celle appliquée à l’analyse du langage naturel, peut aider à séparer le bon grain de l’ivraie. L’humain doit rester dans la boucle. Lawrence Carbon dresse le décor.

.

Si la désinformation n’est pas une nouveauté, les fake news sont devenues à l’ère d’internet un vrai problème. Pourquoi utiliser l’IA pour les repérer ?

Le volume d’information produit sur Internet est colossal, et les réseaux sociaux, entre autres, ont démultiplié la vitesse de propagation de l’information. Il est inenvisageable, à grande échelle, de pouvoir passer en revue toute l’information qui est diffusée quotidiennement avec une approche purement manuelle. Et la difficulté risque de s’accentuer avec l’essor de techniques de génération de texte comme l’algorithme NLG GPT3 développé par la société OpenAI. L’IA peut aider à repérer toutes ces informations et les catégoriser. Elle peut aider à identifier des sites web de réinformation, les productions artificielles comme celles de GPT3. Elle peut aussi faciliter le sourcing pour les journalistes. En résumé, L’IA peut devenir la meilleure alliée du fact-checker ou du lecteur.

Quelles technologies sont mises en œuvre pour repérer les fake news ?

Techniquement, l’IA peut être mise à contribution de plusieurs façons. Il peut s’agir d’analyser le langage naturel à travers sa forme avec l’objectif d ’évaluer la « qualité » du texte. Par exemple, le vocabulaire employé tout comme les tournures de phrase peuvent fournir des indicateurs appelant à la vigilance (message aguicheur, tonalité provocante, etc.). L’IA permet également de mesurer la répétition d’une même idée dans le texte ou de vérifier la présence de référence à des sources (sans nécessairement attester de la fiabilité des sources). Ces approches conjointes facilitent l’attribution d’une sorte de score de confiance. Dans un registre différent, l’IA, dans ses applications statistiques, peut aussi aider à prioriser ce qui est le plus malsain en prenant en compte ce qui est le plus viral. L’IA permet d’automatiser sur des volumes importants des tâches de vérification, l’objectif étant de pouvoir concentrer les efforts humains sur ce qui est le plus prioritaire (exemple : le plus populaire, le plus néfaste).

Concernant le fact-checking : quel est l’apport de l’IA pour ce cas d’usage ?

Ces technologies peuvent également servir dans une approche de fact-checking. L’extraction de données chiffrées dans des textes fonctionne bien. Il est ensuite en théorie aisé de comparer ces chiffres, des faits, avec des bases de données. Ceci dit, il n’existe pas de base de faits universelles mise à jour en temps réel dans laquelle cette vérification pourrait être systématisée mais cette approche peut être efficace sur des périmètres plus restreints. Il est aussi possible de s’appuyer sur la presse traditionnelle pour vérifier des déclarations, en s’appuyant sur une liste de sources réputées fiables pour recouper les faits. L’IA peut grandement accélérer ce travail (comme cet exemple pendant la dernière campagne électorale américaine, où de nombreux médias ont mis en place des services dédiés de fact-checking en faveur du grand-public). Mais si l’apport de la technique est nécessaire, au vu des volumes comme de la vitesse de diffusion, l’œil humain demeure indispensable dans cette démarche de fact-cheking.

https://www.contentside.com/