El rabino que aconseja a Anthropic se rebela contra la humanización de la IA: «Es como crear un esclavo»

Estamos en abril.

El rabino Mois Navon se dirige hacia un buen restaurante de San Francisco donde participará en una reunión organizada por Anthropic, la startup de inteligencia artificial más valiosa del mundo.

En el encuentro participan otros eruditos y religiosos, pero la voz cantante la lleva Christopher Olah , uno de los siete cofundadores de la compañía y responsable del equipo dedicado a entender qué hace que Claude, el chatbot de Anthropic, funcione como lo hace.A medida que avanza la cena, Navon, sentado junto a Olah, empieza a darse cuenta de que los investigadores de la compañía no se refieren a Claude como lo que, en principio, es: una herramienta.

Hablan de sus «pensamientos», de sus «reacciones» y de la forma en que responde a las personas.

Describen comportamientos que, según ellos, se alinean con la manera en que los seres humanos pensamos y sentimos.

Y entonces aparece una palabra que cambia el sentido de la conversación: consciencia.¿Y si Claude no fuese simplemente una máquina? ¿Y si estuviera cerca -mucho- de contar con cualidades que lo igualarían con una persona, solo que sin carne y hueso?«La cuestión surgió en diferentes conversaciones a lo largo de los dos días que duró el 'Wisdom Traditions Convening'», explica Navon a ABC.

Se refiere al encuentro que Anthropic organizó con un heterogéneo grupo de eruditos para reflexionar, entre otras cuestiones, sobre cómo debería comportarse Claude.

Muchos de ellos se quedaron ojipláticos cuando escucharon lo que la empresa estaba proponiendo.

Algunos lo valoraron, unos pocos acabaron convencidos y otros, probablemente la mayoría, lo descartaron de plano.

Entre estos últimos estaba el rabino, que no solo es hombre de fe.

Se graduó en Ingeniería Informática en la prestigiosa UCLA y fue uno de los fundadores de la tecnológica israelí Mobileye, donde diseñó la familia de sistemas en chip (SoC) EyeQ, fundamentales para los sistemas de conducción autónoma de la compañía.Navon no solo conoce la IA, también ha indagado sobre las mismas cuestiones que plantea Anthropic.

En su tesis doctoral analizó el estatus moral de la inteligencia artificial y, en un trabajo posterior , las principales teorías sobre la consciencia de las máquinas.

Su conclusión es clara: «Soy un biocentrista, y, como tal, sostengo que la consciencia depende de procesos biológicos y que no puede surgir simplemente de la computación.