¿Es la IA consciente?

El debate sobre los límites de los nuevos modelos de lenguaje de la mano de la inteligencia artificial (IA) está ahí desde el principio, pero, ahora, tras los enormes avances que se han producido en poco tiempo, la duda es si en algún momento llegará a tener consciencia de sus actos.

El debate no es en absoluto baladí; estamos hablando de una última frontera.A este tema le dedicaba hace unos meses un número la Revista de Occidente y, últimamente, también el semanario británico The Economist.

El debate es apasionante y los enfoques que se pueden adoptar muy distintos.Lo primero es definir qué entendemos por consciencia.

En su primera acepción, la Real Academia Española la define como el conocimiento inmediato o espontáneo que el sujeto tiene de sí mismo, de sus actos y reflexiones.

Pero para este debate quizá resulte más útil la tercera: conocimiento reflexivo de las cosas.

La pregunta sería si los modelos avanzados de lenguaje tienen o pueden llegar a tener un conocimiento reflexivo de algo.

Esta es la clave.

En tanto que el conocimiento reflexivo es un acto físico, estas herramientas no pueden llegar nunca a ser conscientes.

La consciencia interpreta conceptos, mientras que la computación no es un proceso intrínseco, sino una mera descripción de la física.

Intentar generar consciencia desde la computación es circular: estás intentando crear al creador del mapa utilizando el mapa mismo.Frente a las interpretaciones 'wittgensteinianas' de que la inteligencia es el lenguaje, parece imponerse que el lenguaje no es el motor de la razón, sino su resultado.

La razón viene antes que el lenguaje.

Los distintos modelos o herramientas de la IA describen mejor que la mayoría, y probablemente todavía tengan mucho campo de mejora, pero no razonan.

Describen mejor que nadie ese razonamiento, pero no son capaces de llevarlo a cabo.

La limitación es física.Esta conclusión, a la que todavía no hemos llegado pero a la que acabaremos llegando en cuanto se desinflen las expectativas sobre los límites de la IA, no es inocua.