Qué hace realmente la inteligencia artificial cuando responde, según diversos estudios

¿Alguna vez le pediste algo a la inteligencia artificial y la respuesta llegó tan completa, tan segura, que no se te ocurrió dudarla? Nombres, fechas, fuentes, todo en orden.

El problema es que una parte de eso puede no existir.

Un relevamiento de revistas científicas publicado en mayo de 2026 encontró casi 147.000 citas inexistentes : autores inventados, títulos que nadie escribió, datos que nunca fueron publicados, todo con la misma confianza con que se cita cualquier fuente real.

La pregunta que plantea ese hallazgo es: ¿qué hace exactamente la IA cuando responde? La respuesta no es sencilla: los modelos de lenguaje, sistemas entrenados para predecir qué palabras van bien juntas, no para verificar si lo que dicen es verdad, no acceden a una base de datos de hechos comprobados ni contrastan sus afirmaciones antes de emitirlas.

Analizan enormes volúmenes de texto, aprenden qué secuencias tienden a aparecer juntas y producen respuestas que resultan coherentes dentro de ese marco.

El resultado puede sonar razonado, incluso erudito, sin que haya ningún proceso de verificación detrás.

La fluidez no garantiza que la información sea correcta Esa distinción entre forma y contenido es el núcleo del problema.

Un estudio publicado en Frontiers in Artificial Intelligence definió las “alucinaciones” —el término técnico para este fenómeno— como contenidos que parecen fluidos y coherentes aunque sean incorrectos, lógicamente inconsistentes o directamente inventados.

La definición importa porque describe algo contrario a la intuición: un texto puede estar bien escrito y ser falso al mismo tiempo , y la calidad de la escritura no dice nada sobre la calidad de la información.

Una investigación publicada en arXiv desarrolló esa idea y mostró que los modelos de lenguaje pueden enunciar principios correctos sin aplicarlos de manera consistente.

Como si alguien pudiera explicar con detalle cómo se nada, pero se hundiera en cuanto entra al agua.

El modelo puede describir cómo resolver un problema sin poder resolverlo.

Responder no es lo mismo que entender Un análisis de julio de 2026 examinó esa brecha desde un punto de partida distinto.

Al comparar cómo los humanos leen y escriben —dos procesos separados en el cerebro— con lo que hacen estos sistemas, los resultados mostraron que, en los modelos de lenguaje, lectura y escritura operan a través de un mecanismo único y acoplado: el sistema calcula qué palabra es más probable que siga a la anterior, sin detenerse a entender el sentido de lo que produce.