Instagram utilise l'IA pour savoir si des jeunes se font passer pour des adultes

Meta utilise l'IA pour déterminer l'âge des utilisateurs depuis un certain temps, a indiqué l'entreprise, mais l'application de partage de photos et de vidéos cherchera désormais de manière proactive les comptes suspectés d'appartenir à des adolescents, même s'ils ont rentré une fausse date de naissance lors de leur inscription.

Si un utilisateur ment sur son âge, son compte deviendra automatiquement un compte adolescent, soumis à davantage de restrictions qu'un compte adulte. Les comptes adolescents sont privés par défaut. Les messages privés sont aussi restreints: les adolescents ne peuvent en recevoir que des personnes qu'ils suivent ou avec lesquelles ils sont déjà connectés.

Les «contenus sensibles», tels que les vidéos de bagarres ou celles faisant la promotion de procédures esthétiques, seront limités, a précisé Meta. Les adolescents recevront également des notifications s'ils restent plus de 60 minutes sur Instagram, et un «mode veille» sera activé pour suspendre les notifications et envoyer des réponses automatiques aux messages privés à partir de 22 h jusqu'à 7 h.

Meta affirme entraîner son IA à détecter des signaux, tels que le type de contenu utilisé par le compte, les informations de profil et la date de création du compte, afin de déterminer l'âge du propriétaire.

Ces mesures renforcées interviennent alors que les réseaux sociaux sont soumis à une surveillance accrue quant à l'impact de leur plateforme sur la santé mentale et le bien-être des jeunes utilisateurs. Un nombre croissant d'États américains tentent également d'adopter des lois sur la vérification de l'âge, malgré des contestations judiciaires.

Meta et d'autres médias sociaux soutiennent que les boutiques d'applications doivent être tenues responsables de la vérification de l'âge, face aux critiques selon lesquelles elles n'en font pas assez pour garantir la sécurité de leurs produits pour les enfants ni pour vérifier qu'aucun enfant de moins de 13 ans ne les utilise.

Instagram enverra aussi des notifications aux parents «avec des informations sur la manière d'aborder avec leurs adolescents l'importance de fournir l'âge correct en ligne», a souligné l'entreprise.