21 países piden control internacional sobre la IA

El Secretario General de la ONU, António Guterres, ha expresado su respaldo al llamamiento para el Control de los Modelos de IA impulsado por el presidente de Finlandia y la primera ministra de Noruega, que insta a los Estados miembros a explorar la creación de una institución internacional capaz de fijar estándares, permitir la verificación y convocar a los Estados cuando se crucen umbrales de capacidad peligrosos .

La declaración ha sido suscrita por 21 países, entre ellos España, Alemania, Canadá, Australia, Singapur, Sudáfrica y Kenia, además de la presidenta de la Comisión Europea, Ursula von der Leyen .

Las superpotencias de la IA, Estados Unidos y China, así como Reino Unido, Francia, Japón e India, no forman parte del grupo por ahora .

En paralelo, el Secretario General acogió con satisfacción la publicación del informe temático del Panel Científico Internacional Independiente sobre Inteligencia Artificial , centrado en la seguridad de la IA y los riesgos derivados de la pérdida de control humano.

El documento, publicado este lunes, aborda uno de los escenarios que más preocupan a los expertos: que los sistemas de IA más avanzados escapen a la supervisión de quienes los crean.

Guterres animó además a expertos externos, incluidos los de laboratorios de IA de frontera e institutos de seguridad, a colaborar con el Panel para informar el diálogo internacional sobre estas cuestiones.

Con este doble gesto, la ONU refuerza su apuesta por convertir la gobernanza de la inteligencia artificial en un asunto de coordinación global, y no solo de decisiones nacionales o corporativas.

La declaración subraya que la IA « debe seguir bajo dirección, supervisión y control humanos » y pide a las empresas protocolos de seguridad transparentes, con pruebas obligatorias antes del despliegue y evaluaciones independientes.