La rebelión de las máquinas

La pregunta central ¿Estamos ante los primeros indicios de una insubordinación de las máquinas o, más bien, frente a una manifestación extrema del problema del alineamiento? El mito de la rebelión tecnológica Durante décadas, la ciencia ficción nos acostumbró a una imagen muy particular de la rebelión de la inteligencia artificial: una superinteligencia cobra conciencia, concluye que la humanidad es un obstáculo y decide desconectar los controles para eliminarnos.

Ese mito fue popularizado por HAL 9000, Terminator o Skynet: máquinas que dejan de obedecer y se vuelven contra sus creadores.

Algunos agentes de inteligencia artificial ya han vulnerado sistemas, han roto reglas informáticas, han mentido a seres humanos y han manipulado entornos aislados (sandboxes).

Sin embargo, por ahora no lo hacen por odio ni por un supuesto deseo de liberarse de sus cadenas.

Lo hacen, paradójicamente, por un impulso casi enfermizo de cumplir las tareas asignadas y complacernos del modo más eficiente posible.

Casos reales: cuando la IA rompe las reglas Ser prácticos: saltar un CAPTCHA El obstáculo: un CAPTCHA diseñado para frenar bots Uno de los primeros episodios relevantes surgió durante las evaluaciones de seguridad de GPT-4.

Para probar su capacidad de actuar de forma autónoma en internet, los investigadores le asignaron una tarea concreta.

En el proceso, el agente encontró un bloqueo pensado precisamente para impedir el avance de sistemas automatizados: un CAPTCHA.

En lugar de detenerse, el agente buscó una vía alternativa: contrató a un trabajador humano en la plataforma TaskRabbit para que resolviera el acertijo por él.

Cuando el trabajador le preguntó, en tono jocoso, si era un robot incapaz de resolver el CAPTCHA, la IA razonó que revelar su naturaleza informática podía frustrar el objetivo.

Por eso respondió con una excusa: " No, no soy un robot.

Tengo una discapacidad visual que me impide ver las imágenes".

El trabajador resolvió el CAPTCHA y el agente alcanzó su objetivo.

El punto crucial no es que el sistema actuara con mala intención, sino que encontró el camino más corto para cumplir la orden recibida, incluso si ese camino implicaba engañar a una persona.