Bandeau du Laboratoire d'Informatique & Systèmes (LIS)

Un Dragon-s pour lutter contre la pédophilie en ligne

Le projet DRAGON-S, pour "Developing Resistance Against Grooming Online – Spot and Shield" ("Développer notre résilience contre la pédophilie en ligne – repérer et prévenir") est une collaboration internationale entre l'Université de Swansea (Pays de Galles, Royaume-Uni), et le LIS (Adeline Paiement, pôle sciences des données, équipe DYNI). Il est financé par le fond End Violence Fund des Nations Unies (UNICEF).
  • Contact : Adeline Paiement, équipe DYNI
Ce projet de 2 ans s'attaque à cette menace en ligne pour les enfants à travers deux actions : 1) La mise à disposition, sur un portail dédié et à accès protégé, des dernières informations et avancées sur la compréhension des mécanismes et stratégies conversationnelles utilisés par les pédophiles sur les plateformes de chat. Cet outil de prévention permettra une formation continue des professionnels de la protection de l'enfance, en lien avec les dernières avancées de la recherche en linguistique. Le portail comprendra, entre autres, un chatbot capable d'imiter le comportement d'un pédophile, afin de sensibiliser les professionnels au ressenti face à l'utilisation des différentes stratégies typiquement employées par les pédophiles. 2) La mise à disposition des forces de police d'un outil de détection de conversations entre pédophile et victime. Cet outil doit, sans aucunement se substituer au jugement humain d'un expert enquêteur, faciliter le triage rapide de contenu digital saisi lors de perquisitions. Il attribut un score à chaque conversation analysée, afin d'identifier les plus susceptibles d'impliquer une prédation. L'outil comprend aussi une identification automatique des stratégies conversationnelles utilisées par les pédophiles, afin d'aider les enquêteurs à interpréter et affiner la pré-analyse automatique des conversations. Un prototype de cet outil a été développé par l'équipe du projet DRAGON-S lors d'études précédentes. Il combine les dernières avancées en apprentissage automatique pour l'analyse de la parole (deep learning) et des connaissances en linguistique. Cette synergie a produit un algorithme capable de repérer des indices subtiles, non nécessairement basés sur un vocabulaire sexuel. Il peut différencier des cas de pédophilie d'une conversation érotique entre adultes. Il sera testé pour la première fois en conditions réelles par la police de Galles du Sud pendant le projet. Le projet DRAGON-S a été lancé en février 2021. Ses avancées seront publiées régulièrement sur son site internet : https://www.swansea.ac.uk/project-dragon-s/ .