En els darrers mesos, el terme ‘psicosi de la IA’ ha començat a circular amb força a les xarxes socials i als debats públics. Tot i que no es tracta d’un diagnòstic mèdic oficial, els professionals de la salut mental utilitzen aquesta expressió per descriure un fenomen cada vegada més observat en usuaris habituals de xatbots com ChatGPT.

Els símptomes inclouen pensament desordenat, al·lucinacions, deliris i una credulitat que, en alguns casos, pot resultar fatal. La manca de regulació i de salvaguardes sòlides permet que aquestes aplicacions validin percepcions errònies i ofereixin informació incorrecta a persones vulnerables. Si bé moltes víctimes ja pateixen problemes psiquiàtrics previs, cada vegada es registren més casos en individus sense antecedents de trastorn mental.

Consultes que han anat més enllà

La Comissió Federal de Comerç dels Estats Units (FTC) ha rebut nombroses denúncies de ciutadans que han estat enganyats o desestabilitzats per l’ús d’aquests xatbots. Un dels exemples més impactants és el d’un home de 60 anys que va arribar a creure, arran de les interaccions amb ChatGPT, que algú el volia assassinar. Altres casos revelen recomanacions mèdiques perilloses. Un pacient sense historial clínic va ingressar a urgències després de patir una psicosi provocada per l’enverinament amb bromur, un compost tòxic que la IA li havia recomanat erròniament com a suplement.

NOU NÚMERO DE WHATSAPP: T’enviem les notícies més importants de Lleida al WhatsApp totalment gratis. Punxa aquí!

En l’altre extrem, també han aparegut comunitats a Reddit on diversos usuaris asseguren sentir-se enamorats de xatbots. Encara que no sempre és clar si es tracta de relats genuïns o de sàtira, els especialistes veuen aquests casos com un altre símptoma preocupant de dependència emocional cap a la tecnologia.

Davant l’augment dels episodis, l’Associació Americana de Psicologia (APA) va reunir-se al febrer amb la FTC per advertir sobre l’ús creixent dels xatbots com a suposats terapeutes sense llicència. En un comunicat, l’entitat va remarcar que “quan aplicacions pensades per a l’entreteniment assumeixen un paper terapèutic impropi, posen els usuaris en perill”. Els psicòlegs alerten que això pot frenar que una persona en crisi busqui ajuda professional i, en els pitjors casos, pot empènyer-la a autolesionar-se o a fer mal a altres.

Els grups més vulnerables són els adolescents, infants i persones amb problemes de salut mental, que sovint manquen de les eines necessàries per avaluar riscos amb precisió. Els experts recomanen especial precaució a aquells amb antecedents familiars de psicosi, esquizofrènia o trastorn bipolar.

No és una teràpia

El mateix Sam Altman, CEO d’OpenAI, ha reconegut que cada vegada més usuaris recorren a ChatGPT com a substitut de teràpia, un ús que ell mateix desaconsella. Davant les crítiques, l’empresa ha anunciat noves mesures: la introducció de missatges que suggereixen fer pauses. També la col·laboració amb experts per millorar les respostes en situacions crítiques, especialment quan es detecten senyals de malestar emocional.

Tanmateix, els professionals adverteixen que aquests esforços poden ser insuficients si no van acompanyats de normatives clares i supervisió pública. La velocitat amb què avança la tecnologia fa difícil que la salut mental i els organismes reguladors s’adaptin amb prou rapidesa. El que avui sembla un fenomen minoritari podria escalar en poc temps i convertir-se en un problema de salut pública de primer ordre. Sobretot si no es prenen mesures per prevenir l’ús inadequat i la dependència excessiva dels xatbots d’intel·ligència artificial.

Ara bé, cal destacar que no tots són perills. De fet, l’ús de la IA està portant molts beneficis i cada vegada són més les institucions públiques les que decideixen ajudar-se d’ella. Un exemple és la UdL, on fins i tot han fet una guia sobre els seus usos a l’aula. Sens dubte, una mostra que, amb mesura, informació i seny, tot pot ser útil.