En medio del furor por las herramientas de inteligencia artificial, una voz inesperada se alza para poner freno al entusiasmo desenfrenado. Sam Altman, CEO de OpenAI y uno de los principales responsables del avance de la IA en el mundo, advierte que la confianza ciega en estas plataformas puede tener consecuencias serias. Sus declaraciones invitan a repensar cómo usamos estas tecnologías que, aunque brillantes, siguen siendo imperfectas.

Una confianza peligrosa que crece sin control

Durante un episodio reciente del podcast oficial de OpenAI, Sam Altman dejó una reflexión tan sencilla como inquietante: “La IA alucina”. Esta frase, dicha por quien encabeza el desarrollo de una de las plataformas de IA más influyentes del mundo, no fue una exageración dramática, sino una advertencia basada en hechos.

Altman explicó que muchas personas están comenzando a confiar ciegamente en las respuestas que ofrece ChatGPT, olvidando que, a pesar de su fluidez y precisión aparente, sigue siendo una tecnología sujeta a errores. Esta “alucinación” no es una metáfora: se refiere a la capacidad del modelo de generar información incorrecta con total seguridad y coherencia, lo cual puede ser especialmente peligroso cuando se usa en contextos profesionales, educativos o informativos.

Además, Altman remarcó que, aunque la IA está cambiando la forma en que trabajamos y accedemos al conocimiento, todavía no está lista para sustituir el criterio humano. El peligro reside, según él, en la idea de que una herramienta diseñada para asistir se convierta en una fuente incuestionable de verdad.

Qué significa que la IA “alucine”

El fenómeno de la alucinación en modelos de lenguaje como ChatGPT ocurre cuando el sistema genera respuestas que suenan plausibles, pero no tienen respaldo real o verificable. Esto sucede por las limitaciones en cómo estos modelos procesan patrones de lenguaje y predicen la información más “probable” que debería seguir en una conversación, sin verificar si es verdadera.

Altman fue claro: el usuario promedio no siempre está capacitado para identificar cuándo la IA se equivoca. Por eso, recomendó aproximarse a estas plataformas con el mismo nivel de escepticismo que aplicamos a cualquier fuente desconocida en internet. La diferencia está en que, por su presentación amigable y sus respuestas convincentes, es fácil olvidar que ChatGPT no es infalible.

El CEO también advirtió sobre un problema más amplio: millones de personas ya utilizan diariamente herramientas de IA para todo tipo de tareas —desde hacer resúmenes hasta resolver ejercicios académicos— sin verificar si la información generada es precisa. Esta combinación entre uso masivo y exceso de confianza puede provocar una epidemia de desinformación involuntaria.

Cómo usar la IA de forma responsable, según Altman

Frente a este escenario, Altman propone una serie de recomendaciones para que los usuarios puedan aprovechar los beneficios de la inteligencia artificial sin caer en sus trampas. En primer lugar, subraya la necesidad de consultar siempre múltiples fuentes, especialmente oficiales, antes de asumir cualquier dato generado por IA como cierto.

También aconseja exigir referencias verificables cuando se pida información sensible o importante, ya sea en temas médicos, legales, académicos o técnicos. Según Altman, ChatGPT debe entenderse como un punto de partida, no como una autoridad definitiva.

Asimismo, el ejecutivo comparó el uso de la IA con herramientas como buscadores web o redes sociales, plataformas que también pueden ofrecer contenido erróneo, incompleto o manipulado. De este modo, la inteligencia artificial no debería sustituir el pensamiento crítico ni el juicio humano.

Por último, Altman se refirió al compromiso ético de OpenAI con la transparencia. Aseguró que cualquier intento de monetizar la plataforma —como la inclusión de publicidad o servicios pagos— no debe afectar la integridad del sistema ni condicionar las respuestas para favorecer intereses comerciales. “El umbral de prueba debe ser alto”, dijo, dejando claro que, para que la IA conserve la confianza del público, debe mantenerse neutral y confiable.

En tiempos donde la inteligencia artificial está presente en cada rincón de nuestra vida digital, la advertencia del propio creador de ChatGPT resuena con fuerza: no se trata de rechazar la tecnología, sino de aprender a usarla con la conciencia de que, por muy inteligente que parezca, aún puede equivocarse.

Carolina Couselo

Carolina Couselo cubre cine, series y anime en Oasis Nerd. Cinéfila apasionada, sus reseñas se destacan por una mirada crítica que va más allá de los títulos obvios — siempre en busca de esa película o serie que todavía no encontró su audiencia. Si hay un underdog en las pantallas, Carolina probablemente ya lo vio.