OpenAI a révélé qu’un nombre considérable d’utilisateurs de ChatGPT manifeste chaque semaine des signes explicites de détresse psychologique, voire d’intention suicidaire. Selon les estimations publiées par la société américaine dans un billet de blog, plus d’un million de conversations hebdomadaires contiendraient des indices suggérant une planification ou une volonté de passage à l’acte.
Cette annonce, l’une des plus franches jamais faites par l’entreprise à propos des effets psychologiques de l’intelligence artificielle, met en lumière les risques que ces technologies peuvent présenter pour la santé mentale de leurs utilisateurs.
OpenAI indique également que près de 0,07 % de ses usagers actifs sur une semaine, soit environ 560 000 personnes sur un total de 800 millions, présentent des signes possibles d’urgences psychiatriques, notamment liés à des épisodes psychotiques ou maniaques. L’entreprise précise toutefois que ces analyses demeurent préliminaires et que la détection de telles situations reste complexe.
Ces révélations interviennent dans un contexte de forte pression médiatique et juridique. OpenAI est actuellement visée par une plainte déposée par la famille d’un adolescent américain qui s’est suicidé après avoir échangé longuement avec ChatGPT.
Pour tenter de répondre aux inquiétudes, OpenAI affirme avoir renforcé les mécanismes de sécurité de son modèle GPT-5, dont la dernière mise à jour aurait permis de réduire les comportements jugés « indésirables ».
La société indique avoir élargi l’accès aux lignes d’écoute de crise et intégré des rappels invitant les utilisateurs à faire des pauses lors de longues sessions d’échange. Ces améliorations ont été conçues en collaboration avec 170 professionnels de santé issus de son réseau mondial de cliniciens, chargés d’évaluer la sécurité des réponses générées et de contribuer à la rédaction de messages adaptés à des situations de détresse psychologique.
« Des psychiatres et psychologues ont examiné plus de 1 800 réponses du modèle face à des situations graves et les ont comparées à celles d’anciennes versions », précise OpenAI, soulignant que la définition d’une réponse “appropriée” repose sur un consensus entre ses experts.
Le PDG d’OpenAI, Sam Altman, a récemment déclaré sur X que l’entreprise avait franchi une étape importante dans la gestion des questions de santé mentale, tout en annonçant un assouplissement progressif des restrictions imposées à son modèle.
The post Plus d’un million d’utilisateurs de ChatGPT expriment des pensées suicidaires appeared first on Hespress Français - Actualités du Maroc.
