Une intelligence artificielle signée Google pour modérer les commentaires

0
(adsbygoogle = window.adsbygoogle || []).push({});


De nombreux sites et blogs voient souvent leurs commentaires envahis par des propos haineux et des trolls destinés à générer des polémiques, aiguiser les clivages ou encore noyer les discussions et échanges dans les commentaires dans le but de détourner l’attention du sujet principal de l’article. Ces trolls sont d’ailleurs, bien souvent, générés par des logiciels ou encore par des équipes partisanes. Via sa filiale « Jigsaw », Google a testé, pendant plusieurs mois, « Perspective », un dispositif destiné à détecter et évaluer ces commentaires.

Perspective peut évaluer la toxicité d’un commentaire

Jigsaw, l’une des filiales de Google, a développé un algorithme basé sur l’intelligence artificielle et capable d’apprendre et de s’améliorer avec la technologie du « Machine Learning » (Apprentissage Automatique). Baptisé « Perspective », cette intelligence artificielle est capable d’évaluer, avec une précision grandissante, le niveau de « Toxicité » d’un commentaire en lui attribuant une note de 1 à 100.

Jigsaw a mené un test grandeur nature, pendant plusieurs mois, en collaboration avec la version en ligne du prestigieux journal américain « New York Times », mais aussi de la célèbre encyclopédie en ligne « Wikipédia ». Des millions de commentaires ont ainsi été analysés par l’intelligence artificielle et comparés aux traitements qui étaient réalisés par les équipes de modération des deux sites. C’est en se basant sur le traitement humain que l’intelligence artificielle a pu apprendre quels types de propos étaient déplacés et méritaient de ne pas être publiés.

Le machine Learning pour améliorer le traitement des commentaires

L’intelligence artificielle développée pour évaluer les commentaires permet un traitement extrêmement rapide de ceux-ci tout en réduisant les coûts. Pour le moment, l’algorithme développé n’est pas totalement au point. Jared Cohen, le fondateur de la filiale de Google reconnait que « Cette technologie est loin d’être parfaite ».

Cependant, l’apprentissage automatique, s’inspirant du traitement humain des commentaires, permet à « Perspective » de s’améliorer de jour en jour. Jared Cohen assure que « Plus l’outil sera utilisé, plus il s’améliorera ». Jigsaw souhaite désormais proposer son outil à d’autres sites. La filiale de Google précise que les sites qui souhaitent l’utiliser peuvent le faire de différentes façons.


Plusieurs façons d’utiliser cette intelligence artificielle

Il est ainsi possible d’envoyer les commentaires évalués comme étant les plus toxiques prioritairement aux modérateurs, demander aux internautes de classer les commentaires lus selon leur estimation de nuisance, voir encore, envoyer un message à l’utilisateur qui publiera un commentaire évalué haineux ou violent.

Avec le temps, il serait bon que l’outil parvienne aussi à détecter et automatiquement modérer les commentaires provenant de robots destinés à polluer certains sujets d’articles en les noyant sous un flot de commentaires partisans.


Crédits Photos : Flickr de Chatham House



Source link


vous pourriez aussi aimer Plus d'articles de l'auteur

Laisser un commentaire

Votre adresse email ne sera pas publiée.