Une nouvelle fonctionnalité de l’OpenAI prédit l’âge des utilisateurs en fonction de leur style de communication

OpenAI a introduit un nouveau mécanisme basé sur l’intelligence artificielle (IA) pour estimer l’âge des utilisateurs, dans le but de protéger les moins de 18 ans contre l’exposition à des contenus inappropriés. Cette fonction analyse les habitudes d’utilisation et certaines données du compte pour activer automatiquement les filtres de contenu, limitant ainsi l’accès à la pornographie.

Critiques et préoccupations antérieures concernant les mineurs

Ces dernières années, OpenAI a été confrontée à des vagues de critiques concernant l’impact potentiel de ChatGPT sur les enfants. Le bot a été lié à un certain nombre de suicides d’adolescents et la société, comme d’autres fournisseurs d’IA, a été critiquée pour avoir permis des conversations sexualisées avec de jeunes utilisateurs. En avril de l’année dernière, OpenAI a dû remédier à un problème technique qui permettait au robot de produire du contenu pornographique pour les utilisateurs de moins de 18 ans.

Fonctionnement de la fonction de prédiction de l’âge

L’entreprise affirme qu’elle travaille depuis un certain temps à minimiser le risque que des mineurs utilisent le service, et que la fonction de « prédiction de l’âge » vient s’ajouter aux protections existantes. Selon un billet de blog d’OpenAI publié mardi, cette fonction repose sur un algorithme d’intelligence artificielle qui analyse les comptes d’utilisateurs à la recherche d' »indicateurs comportementaux et informatiques » permettant d’identifier les comptes susceptibles d’appartenir à des mineurs.

Quels sont les indicateurs utilisés ?

OpenAI explique que ces « indicateurs » peuvent inclure des éléments tels que l’âge déclaré d’un utilisateur, la durée de création d’un compte et les temps d’activité habituels. L’entreprise souligne qu’elle met déjà en œuvre des filtres de contenu conçus pour bloquer les discussions liées au sexe, à la violence et à d’autres sujets susceptibles d’être inappropriés pour les moins de 18 ans. Lorsque le moteur de prédiction de l’âge détermine qu’un compte appartient à un mineur, ces filtres sont automatiquement déclenchés.

Que faire si le compte est mal classé ?

Si un utilisateur est considéré par erreur comme mineur, OpenAI souligne qu’il existe un moyen de rétablir le statut d’adulte. Pour ce faire, il suffit d’envoyer un selfie à l’un des partenaires de Persona pour vérification de l’identité.