Facebook a mis au point une nouvelle IA pour détecter les messages haineux encore plus vite

Le groupe Meta a développé une nouvelle technique d’intelligence artificielle, qui lui permet de réagir plus vite face aux contenus problématiques (haine, violence, complotisme, etc.) postés sur Facebook ou Instagram. Les auteurs de ce type de messages surfent souvent sur des évènements particuliers et cherchent en permanence à contourner les systèmes de filtrage existants.
Or, adapter un réseau neuronal classique peut prendre des mois, car il faut collecter et étiqueter une grande quantité de données d’apprentissage. Et c’est particulièrement difficile pour des phénomènes nouveaux, où les exemples sont encore peu nombreux.

C’est pourquoi les chercheurs de Meta ont créé la technologie « Few-Shot Learner » (FSL), qui n’a besoin de que d’une faible quantité de données d’apprentissage pour arriver à classifier correctement de nouveaux éléments. Résultat : le déploiement du nouveau modèle peut se faire au bout de quelques semaines, au lieu de plusieurs mois. FSL fonctionne d’ores et déjà dans plus plus d’une centaine de langues.

Alors comment ça marche ? L’idée est de créer un modèle de compréhension de la langue qui soit plus généraliste, et donc moins dépendant de données d’apprentissage. Ce modèle est d’abord entraîné sur « des milliards d’exemples linguistiques génériques et open source ».
Ensuite, le système est alimenté avec des contenus interdits ou problématiques déjà labellisés. Grâce à des techniques d’apprentissage autosupervisées, il suffit ensuite de lui apporter quelques dizaines d’exemples de contenus problématiques pour que le système génère de façon implicite et automatique la nouvelle règle de filtrage.

Les tests réalisés ont montré que cette façon de faire permettait d’exfiltrer rapidement des contenus problématiques, même si les formulations sont innovantes ou ambiguës.
C’était le cas notamment pour des posts intitulés « Vaccin ou modificateur d’ADN » (complotisme) et « Peut-être que ce mec n’a pas besoin de toutes ses dents » (violence).

Au-delà de cette utilisation précise, la nouvelle technologie FSL est un petit pas de plus vers le Graal de l’intelligence artificielle, à savoir la création d’un système généraliste et totalement autonome, similaire à l’intelligence humaine.