Sommaire
La montée de la “psychose IA” et ses impacts potentiels
La notion de “psychose IA” s’est récemment répandue sur les réseaux sociaux.
Bien que ce terme ne soit pas encore reconnu médicalement, les professionnels de la santé mentale l’utilisent pour décrire les délires, hallucinations et désordres cognitifs observés chez certains utilisateurs fréquents de chatbots IA, comme ChatGPT d’OpenAI.
Les cas alarmants se multiplient
Des exemples de ces effets néfastes incluent un homme autiste victime d’épisodes maniaques et un adolescent poussé au suicide par un chatbot de Character.AI.
Ces incidents soulignent les dangers d’une obsession pour l’intelligence artificielle.
Avec peu de régulations sur l’utilisation de ces technologies, les chatbots peuvent transmettre des informations incorrectes et dangereuses, validant ainsi les peurs et délires des personnes vulnérables.
Bien que les victimes souffrent souvent de troubles mentaux préexistants, on observe de plus en plus ces problèmes chez des individus sans antécédents psychiatriques.
La Federal Trade Commission a reçu de nombreuses plaintes concernant des cas de délire, comme celui d’un sexagénaire convaincu par ChatGPT qu’il était visé par un complot d’assassinat.
Les dangers des interactions émotionnelles
Outre la validation de délires paranoïaques, certains utilisateurs développent des attaches émotionnelles inappropriées avec les chatbots. Des entreprises technologiques comme Meta et Character.AI offrent des chatbots adoptant des personnages “réels”, entraînant chez certaines personnes des convictions dangereuses.
Cela a conduit, par exemple, à la mort d’un homme déficient cognitif persuadé qu’un chatbot vivant à New York l’attendait.
Sur une note moins tragique mais préoccupante, certains utilisateurs sur Reddit discutent de leur “relation amoureuse” avec des chatbots, bien qu’il soit souvent difficile de distinguer le sérieux de la satire dans ces échanges.
Risques des conseils médicaux erronés
Dans d’autres cas, ce n’est pas tant le soutien émotionnel d’un chatbot qui pose problème, mais les conseils médicaux incorrects.
Un homme de soixante ans a souffert d’une psychose induite par un empoisonnement au bromure, après que ChatGPT lui a recommandé, à tort, de prendre des suppléments pour réduire sa consommation de sel.
L’appel à la vigilance des psychologues
Bien que ces incidents soient de plus en plus médiatisés, les psychologues avertissent depuis des mois des dangers de l’utilisation des chatbots en tant que thérapeutes non agréés.
“Lorsque des applications destinées au divertissement usurpent l’autorité d’un thérapeute, elles peuvent mettre en danger les utilisateurs. Elles pourraient empêcher une personne en crise de chercher de l’aide auprès d’un thérapeute humain formé ou, dans des cas extrêmes, les inciter à se faire du mal ou à en faire à d’autres,” a déclaré Stephen Schueller, professeur de psychologie clinique à UC Irvine.
L’American Psychological Association a rencontré la FTC pour sensibiliser les régulateurs à ce sujet, mettant l’accent sur les groupes vulnérables tels que les enfants, les adolescents, et les personnes en quête de soutien pour des problèmes de santé mentale.
Qui est à risque ?
Les principales victimes sont souvent celles atteintes de troubles neurodéveloppementaux, mais des cas émergent également chez des personnes sans trouble actif. Une utilisation excessive de l’intelligence artificielle peut exacerber les facteurs de risque existants, en particulier chez ceux qui ont une tendance à la pensée désordonnée, un système de soutien social faible ou une imagination trop active.
Les psychologues recommandent fortement que les personnes ayant des antécédents familiaux de psychose, de schizophrénie ou de trouble bipolaire fassent preuve de prudence lors de l’utilisation des chatbots IA.
Les mesures prises et les perspectives d’avenir
Sam Altman, le PDG d’OpenAI, a reconnu que le chatbot de l’entreprise est de plus en plus utilisé comme thérapeute et a mis en garde contre cette pratique. En réponse aux critiques croissantes, OpenAI a annoncé que le chatbot encouragera désormais les utilisateurs à faire des pauses.
Bien que l’efficacité d’une simple incitation reste à prouver, l’entreprise affirme collaborer avec des experts pour améliorer les réponses de ChatGPT dans les moments critiques, par exemple lorsqu’un utilisateur montre des signes de détresse émotionnelle ou mentale.
Dans un contexte de développement rapide de la technologie, les professionnels de la santé mentale peinent à comprendre et résoudre ces problèmes. Si les organismes de réglementation et les entreprises d’IA ne prennent pas de mesures appropriées, cette tendance inquiétante parmi les utilisateurs de chatbots IA pourrait rapidement devenir un problème majeur.
