El desarrollo de la inteligencia artificial avanza a un ritmo vertiginoso, con nuevas herramientas apareciendo casi cada semana. Sin embargo, este crecimiento acelerado podría esconder riesgos importantes. Así lo advierte Michael Wooldridge, profesor de inteligencia artificial en la University of Oxford, quien sostiene que la industria tecnológica podría estar encaminándose hacia un desastre comparable al famoso accidente del dirigible Hindenburg ocurrido en 1937.

El experto considera que la presión comercial para lanzar productos basados en inteligencia artificial está llevando a muchas empresas a priorizar la velocidad sobre la seguridad. Según su análisis, esta carrera por ganar clientes y dominar el mercado puede provocar que se desplieguen sistemas que aún no han sido evaluados con la rigurosidad necesaria. En ese contexto, un fallo importante podría tener consecuencias graves para la confianza pública en la tecnología.

El paralelismo con el desastre del Hindenburg

El Hindenburg fue uno de los dirigibles más conocidos del siglo XX y representaba el futuro del transporte aéreo de su época. Sin embargo, el 6 de mayo de 1937, durante un intento de aterrizaje en New Jersey, el dirigible se incendió tras la ignición del hidrógeno que lo mantenía en el aire. El accidente provocó la muerte de 36 personas entre pasajeros, tripulación y personal de tierra.

La tragedia tuvo un impacto inmediato en la percepción pública de los dirigibles. Lo que hasta entonces se veía como una tecnología prometedora perdió rápidamente la confianza del público y el interés en su desarrollo se desplomó.

Wooldridge cree que algo similar podría ocurrir con la inteligencia artificial si un incidente grave demuestra de forma dramática sus limitaciones o riesgos. Este hipotético evento sería el “momento Hindenburg” de la IA, un punto de inflexión que podría transformar radicalmente la forma en que la sociedad percibe estas tecnologías.

Un problema clásico en la historia de la tecnología

El profesor señala que este tipo de situaciones no son nuevas. A lo largo de la historia, muchas tecnologías emergentes han atravesado ciclos similares. Primero aparece un entusiasmo masivo por sus posibilidades, seguido de una intensa presión comercial para monetizarla rápidamente.

En ese proceso, los productos suelen llegar al mercado antes de que se comprendan completamente sus limitaciones. En el caso de la inteligencia artificial, el problema es especialmente delicado porque estas herramientas ya están integradas en sectores críticos como el transporte, la banca o la aviación.

Un error grave en cualquiera de estos ámbitos podría tener repercusiones importantes para millones de personas. Por eso, Wooldridge insiste en que el desarrollo de la IA debería avanzar con más cautela y con evaluaciones de seguridad mucho más estrictas.

Chatbots seguros frente a chatbots “demasiado confiados”

Otro de los problemas que señala el experto es la forma en que muchas herramientas actuales presentan sus respuestas. Muchos chatbots están diseñados para sonar seguros y naturales, incluso cuando la información que ofrecen puede ser incorrecta o incompleta.

En lugar de reconocer sus limitaciones, estos sistemas suelen responder con aparente autoridad, lo que puede generar una falsa sensación de fiabilidad entre los usuarios. Para Wooldridge, esto es especialmente preocupante porque los modelos actuales funcionan principalmente prediciendo palabras a partir de probabilidades estadísticas, no comprendiendo realmente el contenido que generan.

Para ilustrar cómo debería comportarse una inteligencia artificial más responsable, el profesor menciona un ejemplo de la serie Star Trek. En un episodio clásico, el personaje Spock consulta a la computadora de la nave y esta responde que no dispone de suficientes datos para ofrecer una respuesta.

Según Wooldridge, esa actitud —reconocer cuando no se tiene información suficiente— podría ser un modelo más realista y fiable para el desarrollo futuro de la inteligencia artificial.