Meta a récemment dévoilé une série de nouvelles mesures sur Instagram visant à renforcer la protection des jeunes contre le chantage lié aux photos intimes, un sujet de préoccupation croissant en matière de sécurité en ligne des mineurs. L'une de ces mesures phares consiste en la mise en place d'un « contrôleur de nudité » sur Instagram.
Ce dispositif sera activé par défaut sur les comptes des utilisateurs mineurs. Son rôle principal sera de détecter automatiquement les images contenant de la nudité qui sont envoyées via la messagerie de l'application, et de les rendre floues avant que le destinataire ne les visualise. Cette initiative vise à prévenir l'exploitation et le chantage aux photos intimes, offrant ainsi une couche supplémentaire de protection aux jeunes utilisateurs de la plateforme.
« De cette façon, le destinataire n'est pas exposé de manière non désirée à un contenu intime et a le choix de voir cette image ou non », explique à l'AFP Capucine Tuffier, en charge de la protection de l'enfance chez Meta France.
En parallèle de la mise en place du « contrôleur de nudité » sur Instagram, Meta a également prévu d'envoyer des messages de sensibilisation concernant le chantage aux photos à caractère sexuel, également connu sous le nom de « sextorsion ». Ces messages seront adressés à la fois à l'émetteur et au récepteur des images, dans le but de les sensibiliser aux dangers associés à la diffusion de contenus sensibles en ligne. En effet, ces messages rappelleront aux utilisateurs que les photos à caractère intime peuvent être capturées par le biais de captures d'écran et potentiellement transférées par des individus malveillants.
Cette initiative vise à éduquer les utilisateurs sur les risques liés à la divulgation de contenus sensibles et à encourager des comportements en ligne plus sécurisés, notamment chez les jeunes utilisateurs qui peuvent être plus vulnérables à ce type d'exploitation.
En outre, Meta a annoncé que lorsqu'un compte sera identifié par ses outils d'intelligence artificielle comme potentiellement impliqué dans des cas de chantage aux photos à caractère sexuel, ses interactions avec des utilisateurs mineurs seront significativement restreintes. Cette mesure vise à protéger activement les jeunes utilisateurs en réduisant leur exposition à des comptes susceptibles de constituer une menace pour leur sécurité en ligne.
Un compte de potentiel « malfaiteur » ne pourra ainsi pas envoyer de messages privés à un compte de mineur, n'aura pas accès à sa liste complète d'abonnés (les comptes de mineurs étant cachés) et les comptes de mineurs n'apparaîtront plus dans la barre de recherche, détaille Capucine Tuffier.
Meta ira encore plus loin en avertissant directement un jeune utilisateur s'il entre en contact avec un potentiel maître-chanteur. Dans ce cas, le mineur sera immédiatement dirigé vers un site dédié appelé « Stop Sextorsion », où il pourra trouver des ressources et des conseils pour faire face à la situation. De plus, Meta mettra à disposition du jeune utilisateur une ligne d'écoute téléphonique en partenariat avec des associations spécialisées, offrant ainsi un soutien direct et professionnel pour faire face à cette forme d'exploitation en ligne.
Ces mesures préventives et de soutien seront initialement testées à partir de mai dans quelques pays en Amérique centrale et latine, avant d'être déployées à l'échelle mondiale dans les prochains mois. Ce déploiement progressif permettra à Meta d'évaluer l'efficacité de ces initiatives et d'adapter ses stratégies en fonction des retours d'expérience afin de mieux protéger la communauté des utilisateurs, en particulier les plus vulnérables.
Ce dispositif sera activé par défaut sur les comptes des utilisateurs mineurs. Son rôle principal sera de détecter automatiquement les images contenant de la nudité qui sont envoyées via la messagerie de l'application, et de les rendre floues avant que le destinataire ne les visualise. Cette initiative vise à prévenir l'exploitation et le chantage aux photos intimes, offrant ainsi une couche supplémentaire de protection aux jeunes utilisateurs de la plateforme.
« De cette façon, le destinataire n'est pas exposé de manière non désirée à un contenu intime et a le choix de voir cette image ou non », explique à l'AFP Capucine Tuffier, en charge de la protection de l'enfance chez Meta France.
En parallèle de la mise en place du « contrôleur de nudité » sur Instagram, Meta a également prévu d'envoyer des messages de sensibilisation concernant le chantage aux photos à caractère sexuel, également connu sous le nom de « sextorsion ». Ces messages seront adressés à la fois à l'émetteur et au récepteur des images, dans le but de les sensibiliser aux dangers associés à la diffusion de contenus sensibles en ligne. En effet, ces messages rappelleront aux utilisateurs que les photos à caractère intime peuvent être capturées par le biais de captures d'écran et potentiellement transférées par des individus malveillants.
Cette initiative vise à éduquer les utilisateurs sur les risques liés à la divulgation de contenus sensibles et à encourager des comportements en ligne plus sécurisés, notamment chez les jeunes utilisateurs qui peuvent être plus vulnérables à ce type d'exploitation.
En outre, Meta a annoncé que lorsqu'un compte sera identifié par ses outils d'intelligence artificielle comme potentiellement impliqué dans des cas de chantage aux photos à caractère sexuel, ses interactions avec des utilisateurs mineurs seront significativement restreintes. Cette mesure vise à protéger activement les jeunes utilisateurs en réduisant leur exposition à des comptes susceptibles de constituer une menace pour leur sécurité en ligne.
Un compte de potentiel « malfaiteur » ne pourra ainsi pas envoyer de messages privés à un compte de mineur, n'aura pas accès à sa liste complète d'abonnés (les comptes de mineurs étant cachés) et les comptes de mineurs n'apparaîtront plus dans la barre de recherche, détaille Capucine Tuffier.
Meta ira encore plus loin en avertissant directement un jeune utilisateur s'il entre en contact avec un potentiel maître-chanteur. Dans ce cas, le mineur sera immédiatement dirigé vers un site dédié appelé « Stop Sextorsion », où il pourra trouver des ressources et des conseils pour faire face à la situation. De plus, Meta mettra à disposition du jeune utilisateur une ligne d'écoute téléphonique en partenariat avec des associations spécialisées, offrant ainsi un soutien direct et professionnel pour faire face à cette forme d'exploitation en ligne.
Ces mesures préventives et de soutien seront initialement testées à partir de mai dans quelques pays en Amérique centrale et latine, avant d'être déployées à l'échelle mondiale dans les prochains mois. Ce déploiement progressif permettra à Meta d'évaluer l'efficacité de ces initiatives et d'adapter ses stratégies en fonction des retours d'expérience afin de mieux protéger la communauté des utilisateurs, en particulier les plus vulnérables.
