Créée en 2024 par Alexandre Sossou, Moderering est une startup européenne spécialisée dans la détection et la modération automatisée des contenus illicites en ligne.
Sa technologie repose sur des agents IA capables d'analyser des contenus, des signaux publics et des environnements numériques afin d'identifier, qualifier et prioriser les risques liés aux contenus problématiques : cyberharcèlement, contenus violents, violences sexuelles, contenus illicites ou générés par IA. Elle permet aux plateformes numériques de mieux protéger leurs utilisateurs en temps réel, et aux acteurs publics de renforcer leurs capacités de détection, d'analyse et de conformité.
Moderering veut apporter une réponse européenne, automatisée et scalable à un problème devenu massif : comment empêcher les contenus illicites d'atteindre leurs victimes, alors que les volumes publiés chaque jour rendent impossible une modération exclusivement humaine ?
La solution peut analyser, selon les besoins des clients, des textes, images, vidéos ou conversations en temps réel. Lorsqu'un contenu est considéré comme illicite, non conforme ou insuffisamment compris par l'IA, il est bloqué avant publication ou exposition. Les contenus bloqués sont ensuite conservés dans un espace sécurisé, que le client peut consulter s'il le souhaite afin de vérifier le contenu, documenter une situation ou transmettre les éléments aux autorités compétentes.
Cette approche permet de changer d'échelle : l'humain n'est plus exposé en première ligne à des volumes massifs de contenus traumatisants. Il reprend un rôle de supervision, de paramétrage et d'amélioration continue : définir ce que l'IA doit bloquer, vérifier certains cas litigieux, traiter les réclamations éventuelles ou réentraîner les modèles lorsque des contenus doivent être requalifiés.
Accessible via dashboard ou API, Moderering s'intègre aux environnements existants des plateformes. Réseaux sociaux, marketplaces, communautés en ligne, hébergeurs, CDN, applications de rencontre, streaming ou gaming : la solution s'adresse à tous les acteurs qui hébergent des contenus générés par les utilisateurs, ainsi qu'aux acteurs publics chargés de la sécurité numérique et de la lutte contre les contenus illicites. Dans ce cas, l'enjeu n'est pas de bloquer des contenus entrants, mais de renforcer les capacités de détection, d'analyse et de priorisation. La même technologie peut ainsi aider à repérer des signaux d'illicéité, documenter des risques ou orienter plus rapidement les traitements, sans se substituer à la décision humaine ni au cadre légal applicable.
