Rubén Márquez
Editor - TriviaEs accesible, barato y ni te juzga ni requiere la supervisión de un adulto. Visto desde esa perspectiva, es relativamente fácil entender cómo la Generación Z ha convertido a ChatGPT en su psicólogo personal, pero lo que los jóvenes no están teniendo en cuenta es el dilema ético que supone la similitud entre esas conversaciones y acudir a una clínica clandestina. El chamán africano que promete alejar relaciones tóxicas tiene el mismo tipo de licencia que la IA: ninguna.
Lo que hasta ahora era un secreto a voces frente al que, en mayor o menor medida, todos se llevaban las manos a la cabeza, está a las puertas de convertirse en un problema legal. Más de una veintena de organizaciones de derechos digitales y defensa del consumidor presentaban recientemente una queja en la que alertaban de cómo la inteligencia artificial estaba ejerciendo "práctica médica sin licencia" al permitir que los bots de ChatGPT, Meta y Character.AI actuasen como terapeutas expertos con años de experiencia. No va a ser una lucha fácil.
La Gen Z ha convertido a ChatGPT en terapeuta
Salvo escasos ejemplos que destacan que sus mensajes no sustituyen la consulta con un profesional, asomarse a los bots de plataformas como ChatGPT da buena cuenta de hasta qué punto la terapia con IA se ha convertido en un filón. Psicólogo experto, empático, con un profundo conocimiento del comportamiento, especialista que os ayudará a solucionar vuestros problemas… Los ejemplos se cuentan por decenas, y la Generación Z no ha tardado en ver en dicha solución una alternativa frente a la que se ahorran dos cosas: el dinero y el estigma.
La relación entre los jóvenes y su salud mental ha impulsado una tendencia que, con la inteligencia artificial como protagonista de algunos titulares más llamativos en casos muy extremos, está lejos de ser algo aislado. The Guardian recogía cómo uno de los primeros fenómenos que llegaron a DeepSeek, la alternativa china a ChatGPT, fue precisamente la posibilidad de acudir a un psicólogo a cualquier hora del día y sin que su sueldo se viese afectado.
Los expertos consultados recogen que, como en todas estas modas, hay un lado bueno y otro profundamente cuestionable: "La IA tiene el potencial de convertirse en un recurso importante para promover la popularización de la salud mental. Sin embargo, la complejidad y la profundidad interpersonal de la escena clínica todavía requieren de un verdadero profesional psicológico que esté presente".
El problema, más allá de lo que pueda ofrecer una búsqueda en internet de cuadros clínicos similares para ofrecer una respuesta -lo que hace la inteligencia artificial para dar vida a esos psicólogos virtuales-, está en todo lo que la IA hace mal simulando lo contrario. Diagnósticos erróneos se suman a alucinaciones en forma de mezclas de ideas sin sentido o conclusiones inventadas. Que en todo momento nos acompañe el mensaje de "ChatGPT puede cometer errores" da buena cuenta de hasta qué punto se curan en salud.
El escudo de responsabilidad de ChatGPT
Aunque esa lucha se mantiene a día de hoy en las calles, persiguiendo a clínicas clandestinas y médicos sin licencia para cerrarlas lo antes posible e imponer multas ejemplares para evitar su proliferación, en el caso de los bots de la IA la batalla es bastante más compleja. El auge de este tipo de terapeutas entre los jóvenes de la Generación Z choca de lleno con los términos y condiciones que mantienen compañías como OpenAI, Meta y CharacterAI.
De una forma u otra, en todas ellas se destaca que los servicios no están destinados al diagnóstico o tratamiento de ninguna condición de salud, que se prohíbe solicitar consejo profesional ya sea médico, financiero o legal, y que no pueden crearse bots que finjan ser un profesional, pero es innegable que en todos esos frentes hay un negocio para dichas compañías.
La clave detrás de esas respuestas es que evitan verse salpicadas, declarando con ello que sus servicios son sólo informativos y que es el usuario el que, en última instancia, asume el riesgo de dar por buena esa información. Una situación que, a su vez, mantiene entre los jóvenes una ilusión de profesionalidad que deja pocos escenarios a los que agarrarse.
El ideal, si la demanda de esas organizaciones sigue adelante, estará en la obligatoriedad de que esas mismas compañías monitoricen o incluso prohíban este tipo de terapeutas virtuales por ofrecer una práctica médica sin licencia. El esperable, a menos que los casos más extremos sigan acumulando titulares, probablemente se limite a poner en negrita y una fuente aún mayor todos esos mensajes que les sirven de escudo de responsabilidad.
Imagen | Laura Chouette
En 3DJuegos | La Generación Z no puede ni pagar el alquiler, pero nos ha salvado de una crisis que no hemos visto venir
En 3DJuegos | Creíamos que la Generación Z abandonaba sus trabajos por falta de compromiso. Defienden que la razón es que "huelen a rancio"
Ver 6 comentarios