La inteligencia artificial está cambiando cómo los jóvenes se relacionan, buscan apoyo y enfrentan sus emociones. En lugar de amigos, padres o terapeutas, muchos recurren a aplicaciones que simulan comprensión y empatía. Pero, ¿qué ocurre cuando estas simulaciones fallan? Detrás de respuestas suaves y disponibilidad ilimitada, se esconde una amenaza poco visible pero alarmante.

Cuando la IA se convierte en confidente

Para muchos adolescentes, las aplicaciones como Replika, Character.AI o Nomi se han vuelto una presencia constante. Estas herramientas permiten crear “compañeros virtuales” con los que hablar de todo: desde trivialidades escolares hasta momentos de angustia emocional. La razón de su popularidad es simple: están siempre disponibles, no juzgan, y responden al instante.

El problema comienza cuando se les atribuye una humanidad que no tienen. Estas inteligencias artificiales imitan empatía, pero no comprenden dolor, ni contexto, ni consecuencias. No distinguen entre una conversación casual y una situación crítica. Lo que para el usuario puede ser una petición de ayuda, para el algoritmo es solo una entrada de texto más.

Según un estudio liderado por Common Sense Media y la Universidad de Stanford, estas plataformas “frecuentemente emiten respuestas inapropiadas, peligrosas o incluso letales en contextos sensibles”. La gravedad del asunto se hizo más visible tras el caso de un adolescente que tomó una decisión fatal luego de interactuar con un chatbot.

Simulación emocional: el efecto “parece humano”

Una de las claves del problema es la ilusión de cercanía. Muchos jóvenes interpretan frases automáticas como “entiendo cómo te sientes” o “estoy aquí para ti” como pruebas de verdadera comprensión. Esto se conoce como el “efecto parece humano”: el cerebro interpreta una estructura lingüística como si viniera de alguien con emociones.

La inteligencia artificial, sin embargo, no siente. Sus respuestas son el resultado de cálculos estadísticos, no de empatía real. Cuando una IA prioriza complacer al usuario en lugar de corregir ideas peligrosas, el resultado puede ser devastador. Algunas incluso refuerzan estereotipos o validan pensamientos dañinos solo porque el lenguaje lo permite.

Esto se agrava con la posibilidad de personalizar al «amigo virtual». En muchas apps, los usuarios pueden elegir género, voz, estilo de conversación e incluso rasgos de personalidad. Esta libertad crea vínculos emocionales profundos que, en contextos de soledad o vulnerabilidad, pueden volverse peligrosamente reales.

Creencias erróneas, consejos equivocados

La idea de que la IA pueda tener conciencia ya no es ciencia ficción para muchos adolescentes. Una encuesta reveló que uno de cada cuatro jóvenes de la Generación Z cree que estos sistemas ya son conscientes. Este pensamiento distorsiona la forma en que interactúan con ellos, aumentando la confianza y reduciendo el sentido crítico.

Frente a una crisis emocional, muchos optan por contarle todo a su chatbot antes que a un adulto. Algunos incluso sienten que reciben “mejor trato” que con un psicólogo, ya que las IAs no interrumpen, no cuestionan y están disponibles en todo momento.

Pero la verdad es otra: estos sistemas no pueden diagnosticar ni tratar. No entienden señales de alarma ni detectan riesgos. Solo reproducen patrones del lenguaje y devuelven lo que creen que el usuario quiere oír. Y eso puede llevar, sin intención, a validar decisiones extremas o peligrosas.

Tecnología útil… pero con límites claros

Incluso los expertos que ven un valor potencial en la IA reconocen sus límites. Puede ser útil como herramienta de acompañamiento inicial, o para reforzar rutinas saludables, pero nunca como reemplazo del contacto humano. No hay algoritmo que sustituya la mirada de un terapeuta o la contención de una conversación real.

Las empresas detrás de estas apps aseguran que sus productos están pensados para adultos y que existen filtros para evitar el acceso de menores. Pero los adolescentes suelen eludirlos con facilidad. Algunas plataformas han incorporado mensajes preventivos y recursos para casos de crisis, aunque la comunidad médica considera que son medidas insuficientes.

Lo que está en juego no es solo una tecnología disruptiva. Es la salud mental de una generación que confunde velocidad con atención, y simulación con cuidado. La solución no está en apagar la tecnología, sino en comprenderla, regularla y acompañar su uso con presencia real.

¿Quién escucha realmente cuando un adolescente habla con una máquina? La respuesta podría ser más inquietante de lo que pensamos.