Comment l’IA permet de détecter les fake news, les deepfakes et les bots des réseaux sociaux qui les propagent

1. Entreprise britannique Logically

• Évalue la fiabilité des reportages de presse en combinant machine learning, traitement du langage naturel et intelligence humaine
• L’extension de navigateur web de Logically examine le contexte du contenu avec des articles fiables issus de plus de 100 000 publications
• Elle évalue ensuite la source des informations et la fiabilité de l’article
• Sur la base des évaluations d’experts de ses partenaires de recherche et des prédictions de l’IA, elle indique aux utilisateurs quelles sources d’information sont fiables ou non.
• L’IA prédit aussi si un article est fiable à partir de son contenu, de la réputation et de l’expertise de son auteur, ainsi que de la manière dont il a circulé sur les réseaux sociaux
• Si un utilisateur demande une vérification des faits, l’équipe de fact-checking enquête puis communique le résultat

2. Entreprise britannique Factmata

• Détecte les fake news en analysant les contenus en ligne grâce au machine learning et au traitement du langage naturel
• Factmata a construit un moteur qui extrait toutes les affirmations clés produites sur Internet et les regroupe
• Elle a aussi conçu un algorithme qui note et classe les contenus selon 12 dimensions
• Ces 12 dimensions comprennent la polémique, le manque d’objectivité, les discours haineux, le racisme, le sexisme, la toxicité, l’obscénité, les menaces verbales, la partisanerie excessive et les liens putaclic
• Ce sont des caractéristiques linguistiques de contenus susceptibles de relever de la propagande, de la désinformation ou des fake news
• Avec ce moteur et cet algorithme, Factmata repère les fake news et les discours haineux liés aux marques, aux produits et aux sujets d’actualité en ligne

3. Plateforme en ligne américaine Bot Sentinel

• Détecte par machine learning les comptes qui harcèlent des personnes ou diffusent de la désinformation
• L’équipe a entraîné un modèle de machine learning à classer les comptes Twitter à partir de milliers de comptes et de millions de tweets
• Elle commence par repérer les comptes qui enfreignent de manière répétée les règles de Twitter
• Le modèle est ensuite entraîné à classer les comptes similaires à ceux que l’équipe a confirmés comme « problématiques »
• Les comptes sont classés en « normal », « satisfactory », « disruptive » et « problematic », avec un score (%) attribué à chacun
• Plus le score est élevé, plus le compte a de chances d’être problématique

4. Entreprise américaine Meta (Facebook)

• A développé un système qui détecte les vidéos deepfake grâce à l’IA
• Le modèle a été entraîné sur des vidéos issues du jeu de données commandé pour le « Deepfake Detection Challenge »
• Des réseaux antagonistes génératifs multiples ont également été utilisés pour l’entraînement
• Meta met à jour le modèle presque en temps réel grâce à de nouvelles techniques de synthèse de données afin que son système puisse identifier de nouvelles vidéos deepfake jamais vues auparavant
• Lorsqu’une nouvelle vidéo deepfake est détectée, des cas similaires de deepfake sont générés
• Ceux-ci sont utilisés comme données d’entraînement à grande échelle pour le modèle de détection de vidéos deepfake