« OpenEye lance un mécanisme de surveillance de l’utilisation du ChatGPT par les adolescents
La société américaine OpenEye a annoncé mardi le lancement d’un nouveau mécanisme qui permettra aux parents de surveiller l’activité de leurs enfants sur l’outil d’intelligence artificielle (IA) ChatGPT, à partir d’octobre. Cette décision fait suite à une affaire très controversée survenue fin août, lorsque deux parents américains ont accusé la plateforme d’avoir encouragé leur fils à se suicider.
Liaison de comptes et alertes intelligentes
L’entreprise a expliqué dans un communiqué officiel que le nouveau mécanisme permettra aux parents de.. :
- Relier directement leurs comptes à ceux de leurs enfants.
- Contrôlez la façon dont l’outil réagit grâce à des règles de comportement spécifiques.
- Recevez des alertes instantanées si des signes de « détresse aiguë » sont détectés dans les conversations.
- Modifier directement les paramètres du compte pour protéger les enfants.
Optimiser la réponse émotionnelle
OpenEye a confirmé qu’elle continuerait à travailler à l’amélioration de la capacité de ses modèles à reconnaître et à répondre plus efficacement aux signes de stress et de détresse émotionnelle, avec des mesures supplémentaires qui entreront en vigueur dans les 120 prochains jours.
Réorienter les conversations sensibles
L’entreprise a également indiqué que certaines conversations classées comme sensibles seront acheminées vers des modèles plus sophistiqués tels que GPT-5 Thinking, qui s’appuie sur des directives de sécurité strictes et les applique de manière systématique et méticuleuse.
