une I.A. pour prévenir les suicides de ses utilisateurs

0


Pour détecter les risques de suicide parmi ses utilisateurs et tenter de leur venir en aide, le réseau social de Mark Zuckerberg vient de se doter d’une IA capable de repérer les publications jugées inquiétantes.

En phase de test uniquement aux USA, l’intelligence artificielle se chargerait d’identifier les messages préoccupants, qu’il s’agisse d’une publication d’utilisateurs concernés ou de réactions laissées en commentaires par leurs amis. L’IA peut ainsi être alertée à la lecture d’un commentaire d’un ami qui demande « Est-ce que tout va bien ? » ou encore « Je m’inquiète pour toi ».

Un suicide toutes les 40 secondes quelque part dans le monde

Une fonctionnalité particulièrement attendue sur la plate-forme où de nombreux cas de suicide en direct ont malheureusement eu lieu au cours des derniers mois. Une fois identifié, l’échange de messages inquiétants est étudié par une équipe de Facebook qui propose ensuite à la personne concernée des conseils ou un rendez-vous avec un spécialiste.

John Draper, directeur d’une association de prévention contre le suicide, admire l’initiative mais la juge encore perfectible :

« Nous avons discuté avec les équipes Facebook concernant la possibilité de faire plus que donner de simples conseils aux personnes en détresse. Plus nous mobiliserons le réseau d’un individu fragilisé, plus il aura de chance d’être aidé. »

Signaler un live inquiétant

Récemment interviewée par l’un de nos confrères, Vanessa Callison-Burch qui travaille pour Facebook explique que bien souvent, l’IA se révèle plus pertinente que les humains pour identifier un véritable motif d’inquiétude:

« Nous avons constaté que l’IA semble plus précise que les signalements de suicide ou d’auto-mutilation réalisés par nos utilisateurs. Nous avons ainsi plus tendance à déployer notre aide aux personnes dont le signalement a été effectué par l’IA, plutôt que celles révélées par un véritable être humain. »

Quoi qu’il en soit, Facebook Live demandera désormais à ses utilisateurs américains comment ils pensent pouvoir aider la personne en détresse qu’ils viennent de signaler durant un live. Probablement pour éviter les abus et fournir un maximum d’informations utiles aux équipes de secours.



Source link


vous pourriez aussi aimer Plus d'articles de l'auteur

Laisser un commentaire

Votre adresse email ne sera pas publiée.