Meta a annoncé ce jeudi de nouvelles mesures sur Instagram pour protéger les jeunes du chantage aux photos de nu, les plateformes étant de plus en plus scrutées en Europe et aux Etats-Unis sur la protection des mineurs en ligne.
Meta va ainsi mettre en place un « contrôleur de nudité » sur Instagram, paramétré par défaut sur les comptes des mineurs, qui détectera automatiquement les images avec de la nudité reçues sur la messagerie de l’application et les rendra floues.
« De cette façon, le destinataire n’est pas exposé de manière non désirée à un contenu intime et a le choix de voir cette image ou non », explique à l’AFP Capucine Tuffier, en charge de la protection de l’enfance chez Meta France.
Des messages de sensibilisation sur le chantage aux photos à caractère sexuel, aussi appelé « sextorsion », seront dans le même temps envoyés à l’émetteur et au récepteur des images, leur rappelant que ces contenus sensibles peuvent aboutir à des captures d’écran et des transferts par des personnes malintentionnées.
« Il s’agit de réduire la création et le partage de ce type d’images », résume Mme Tuffier.
Par ailleurs, lorsqu’un compte aura été identifié par les outils d’intelligence artificielle de Meta comme étant potentiellement à l’origine de ce type de chantage ses interactions avec des utilisateurs mineurs seront fortement limitées.
Un compte de potentiel « malfaiteur » ne pourra ainsi pas envoyer de messages privés à un compte de mineur, n’aura pas accès à sa liste complète d’abonnés (les comptes de mineurs étant cachés) et les comptes de mineurs n’apparaîtront plus dans la barre de recherche, détaille Capucine Tuffier.
Meta préviendra aussi un jeune utilisateur s’il est entré en contact avec un potentiel maître-chanteur. Le mineur sera alors dirigé vers un site dédié « Stop Sextorsion » et aura accès à une ligne d’écoute téléphonique en partenariat avec des associations.
Ces nouvelles mesures seront testées à partir de mai dans une poignée de pays en Amérique centrale et latine avant un déploiement mondial dans les prochains mois.