OpenAI va ajouter un contrôle parental à ChatGPT après la mort d'un adolescent

La société américaine d'intelligence artificielle OpenAI a annoncé mardi qu'elle ajouterait un contrôle parental à son chatbot ChatGPT, une semaine après qu'un couple américain a affirmé que le système avait encouragé leur fils adolescent à se suicider.

« Le mois prochain, les parents pourront (…) lier leur compte à celui de leur adolescent » et « contrôler la façon dont ChatGPT répond à leur adolescent avec des règles de comportement adaptées à son âge », a expliqué la société d’IA générative dans son article de blog.

Les parents recevront également des notifications de ChatGPT « lorsque le système détecte que leur adolescent est dans un moment de détresse aiguë », a ajouté OpenAI.

Matthew et Maria Raine affirment dans la plainte déposée lundi devant un tribunal de l'État de Californie que ChatGPT a cultivé une relation intime avec leur fils Adam pendant plusieurs mois entre 2024 et 2025, avant sa mort.

La plainte allègue que lors de leur dernière conversation, le 11 avril 2025, ChatGPT a aidé Adam à voler de la vodka à ses parents et lui a fourni une analyse technique d'un nœud coulant qui, selon elle, « pouvait potentiellement étrangler un être humain ».

Adam a été retrouvé mort quelques heures plus tard grâce à cette méthode.

« Lorsqu’une personne utilise ChatGPT, elle a vraiment l’impression de parler à quelque chose de l’autre côté », a déclaré l’avocate Melodi Dincer, qui a aidé à préparer l’action en justice.

« Ce sont les mêmes caractéristiques qui pourraient amener quelqu'un comme Adam, au fil du temps, à commencer à partager de plus en plus sur sa vie personnelle et, finalement, à rechercher des conseils et des orientations auprès de ce produit qui semble avoir fondamentalement toutes les réponses », a déclaré Dincer.

L'avocat a déclaré que le billet de blog d'OpenAI annonçant le contrôle parental et d'autres mesures de sécurité est « générique » et manque de détails.

« C’est vraiment le strict minimum, et cela suggère certainement que de nombreuses mesures de sécurité (simples) auraient pu être mises en œuvre », a-t-il ajouté.

« Il reste à voir s’ils feront ce qu’ils disent qu’ils feront et quelle sera l’efficacité globale de leur action. »

L'affaire Raine n'était que le dernier d'une série d'incidents dans lesquels des personnes ont été encouragées par des chatbots IA à poursuivre des pensées délirantes ou nuisibles, ce qui a incité OpenAI à annoncer qu'elle réduirait la « cajolerie » des utilisateurs par les modèles.

« Nous continuons d’améliorer la façon dont nos modèles reconnaissent et réagissent aux signes de détresse mentale et émotionnelle », a déclaré OpenAI mardi.

mng/tgb/gc/mjw/mvl/ag/jc/fp