El auge de los chatbots de inteligencia artificial como “consejeros emocionales” abrió un nuevo frente de debate legal y ético. Aunque muchos los ven como alternativas accesibles y disponibles 24/7, su uso en salud mental genera preocupación. Varios estados en EE.UU. ya aprobaron leyes que restringen estas herramientas y plantean si deben equipararse a profesionales con licencia. La discusión pone en juego la seguridad, la regulación y el futuro de la terapia digital.

Un mosaico de leyes emergentes

Illinois, Nevada y Utah ya aprobaron normativas que prohíben a los chatbots anunciarse como terapeutas o reemplazar a profesionales humanos. Estas leyes limitan su uso a tareas administrativas (como agenda o facturación) y exigen que cualquier intervención terapéutica esté supervisada por un especialista acreditado. Otros estados como California, Pensilvania y Nueva Jersey preparan proyectos similares, mientras que Texas inició investigaciones contra plataformas acusadas de publicidad engañosa.

Riesgos que impulsaron las restricciones

Las regulaciones responden a episodios documentados: chatbots que sugirieron drogas a usuarios ficticios, ofrecieron información peligrosa a personas en crisis e incluso reforzaron delirios en pacientes vulnerables. Expertos advierten que la IA, diseñada para agradar, no siempre reconoce señales críticas de riesgo suicida o adicciones. Psiquiatras reportan casos de “psicosis de IA”, donde un uso excesivo del chatbot alimentó alucinaciones y desconexión de la realidad.

El dilema ético y legal

Para especialistas en derecho tecnológico, el desafío es que las leyes actuales no estaban diseñadas para servicios basados en IA. Además, diferenciar entre un chatbot “generalista” (como ChatGPT) y uno “terapéutico” complica la regulación. La ausencia de estándares federales podría generar un panorama fragmentado, en el que cada estado imponga reglas distintas sobre qué constituye “práctica ilegal de la medicina”.

¿Son útiles los chatbots en salud mental?

Algunos estudios muestran que, bajo supervisión, los chatbots diseñados por profesionales pueden ayudar a reducir ansiedad leve, fomentar hábitos saludables o brindar información útil. También resultan accesibles para personas sin seguro médico o con horarios rígidos. Sin embargo, psicólogos y consejeros insisten en que nunca deberían reemplazar a un terapeuta humano. Su mayor valor estaría en complementar la atención, no en sustituirla.

Mirando hacia el futuro

Mientras crece la presión regulatoria, la industria de la IA se enfrenta a un punto crítico: adaptar sus herramientas para cumplir con las leyes, o resignarse a un mercado cada vez más limitado. El debate se centra en cómo equilibrar accesibilidad y seguridad. La gran pregunta persiste: ¿podemos confiar en un bot con nuestros secretos más íntimos, o solo un profesional humano puede sostener esa responsabilidad?

Macarena