Le musée d’Auschwitz et la startup IA TrollWall annoncent une coopération inédite pour lutter contre la haine en ligne

Temps de lecture : 2 min

Le 11 juillet 2024, le musée d’Auschwitz a annoncé avoir entamé une coopération inédite avec TrollWall AI, une startup spécialisée dans la modération automatique des commentaires haineux sur les réseaux sociaux, basée sur des modèles d’intelligence artificielle.

Le musée d’Auschwitz est très actif sur plusieurs plateformes de médias sociaux, principalement X, Facebook et Instagram. Chaque jour, l’institution publie des articles sur les événements de l’histoire du camp nazi allemand d’Auschwitz, ainsi que de courtes biographies des victimes. Les profils officiels du musée sont déjà suivis par près de 2,5 millions de personnes, et le nombre de commentaires laissés chaque jour sur les profils est en moyenne de 4 à 5 000.

Paweł Sawicki, responsable des activités du musée d’Auschwitz sur les médias sociaux explique que “La plupart des commentaires sont des expressions diverses de souvenir, des réactions émotionnelles au contenu présenté ou des questions strictement historiques. Malheureusement, certains commentaires violent la mémoire des victimes, notamment des entrées négationnistes et antisémites. Nous subissons également quotidiennement des vagues de spam, de trolls, de robots de phishing ou de campagnes de désinformation. Une modération appropriée est une priorité pour nous. Nous nous efforçons de protéger notre communauté virtuelle du souvenir des discours de haine”.

• Outil de lutte automatisée contre la haine en ligne

Face à ce défi, le Musée a décidé d’entamer une coopération avec la startup slovaque TrollWall AI. La société a développé un outil basé sur l’intelligence artificielle qui masque automatiquement et en temps réel les commentaires haineux et vulgaires sur les pages des réseaux sociaux.

Il prend actuellement en charge Facebook, Instagram, YouTube et TikTok. Les créateurs de TrollWall AI s’appuient sur les normes juridiques internationales définissant les discours de haine.

“Nous avons le droit à la liberté d’expression, mais pas aux discours de haine. En modérant automatiquement les commentaires haineux, nous créons un espace en ligne sûr et sans haine pour ceux qui suivent le Musée sur les réseaux sociaux”, a déclaré Tomáš Halász, PDG et cofondateur de TrollWall AI.

• Une première collaboration avec un musée

Dans le cadre de cette coopération unique, le musée d’Auschwitz a accès à toutes les fonctionnalités du service.

“Lors des tests que nous avons effectués, l’outil s’est avéré très efficace. Il est important de noter que TrollWall AI effectue une modération automatique dans de nombreuses langues différentes, ce qui est particulièrement crucial dans notre cas. Nous pouvons également ajouter divers mots-clés au système. Bien sûr, l’outil ne remplace pas entièrement le travail d’un modérateur, mais il offre une sécurité supplémentaire et un mur supplémentaire, notamment sur Facebook et Instagram. De plus, l’utilisation du système accélère la modération, ce qui nous laisse plus de temps pour préparer davantage de contenu à publier”, explique Paweł Sawicki.

• Le musée sur les réseaux sociaux

Les activités sur les réseaux sociaux constituent une part importante de la mission éducative du Mémorial.

Le contenu publié sur les comptes officiels du Musée touche près de 2,5 millions de personnes :

X (anciennement Twitter) – 1,6 million d’abonnés
Facebook – 556 000
Instagram – 179 000
Mastodon – 93 000
Threads – 40 000

SOURCE: Auschwitz-Birkenau State Museum

PHOTOS: comptes sociaux du Auschwitz-Birkenau State Museum

PHOTO du carrousel: capture d’écran du compte instagram du mémorial

Date de première publication: 12/07/2024