EEUU y China estudian trasladar el aprendizaje nuclear a la contención de riesgos de la IA

Este escenario es escalofriante.

Imaginemos que un modelo de inteligencia artificial (IA) muy avanzado consigue de forma autónoma interferir en la red de mando nuclear de una gran potencia, como EEUU o China, o bien lanzar un ataque cibernético contra ella, haciéndole creer que la agresión procede de la otra superpotencia.

En estas circunstancias Washington y Pekín solo tendrían unos pocos minutos para decidir si el ataque realmente procede de la otra nación.

Un suceso como este colocaría al mundo al borde del abismo.

Este escenario lo hemos visto muchas veces en el cine, pero el vertiginoso avance de la IA ha provocado que los expertos lo estén contemplando como una posibilidad muy real.

De hecho, Reuters ha confirmado que expertos de EEUU y China ya están trabajando conjuntamente para encontrar la forma adecuada de resolver con éxito un escenario como el que hemos descrito en el párrafo anterior.

De analizar los riesgos y proponer soluciones se está encargando un grupo de analistas procedentes tanto de EEUU como de China.

Y presumiblemente el próximo 24 de septiembre Donald Trump y Xi Jinping hablarán sobre este asunto en la reunión que mantendrán en la Casa Blanca, Washington (EEUU).

Todo esto es aterrador, y está sucediendo.

Sea como sea, que los Gobiernos de las dos naciones más poderosas del planeta se estén tomando en serio esta posibilidad y estén intentando implementar protocolos para resolverla si llegase a producirse es una buena noticia.

Algunas soluciones ya están sobre la mesa El pasado 9 de septiembre los expertos chinos y estadounidenses que están asesorando a sus respectivos gobiernos publicaron un artículo conjunto en el que exponen algunas de las medidas que es posible implementar para evitar que un modelo de IA "rebelde" desencadene un conflicto entre EEUU y China.

Los autores de este informe son Melanie Sisson, investigadora sénior de la Brookings Institution (EEUU), y Tianjiao Jiang, profesor asociado de la Universidad de Fudan (China).

En Xataka China y Rusia tienen un plan extremadamente ambicioso: en 2028 construirán una central nuclear en la Luna El grupo de asesores liderado por Sisson y Jiang propone establecer líneas rojas alrededor de los sistemas nucleares de EEUU y China El grupo de asesores liderado por Sisson y Jiang propone establecer líneas rojas alrededor de los sistemas nucleares de EEUU y China, así como mantener protocolos de control humano sobre los ciberataques que tengan consecuencias graves y crear una línea de comunicación militar directa y dedicada entre EEUU y China para abordar cualquier incidente relacionado con la IA.

Estas medidas están claramente inspiradas en algunos de los protocolos que establecieron la Unión Soviética y EEUU durante la Guerra Fría para tratar un posible incidente nuclear.