Los líderes tecnológicos llevaron la alarma por la inteligencia artificial llegó a la ONU: “Riesgo para la humanidad”

NUEVA YORK.– Los principales referentes de la inteligencia artificial (IA) llevaron este miércoles al Consejo de Seguridad de la ONU una advertencia contundente: los sistemas que desarrollan podrían convertirse en un riesgo para toda la humanidad si su avance no queda sujeto a controles y acuerdos internacionales .

“Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto ”, dijo Dario Amodei, CEO de Anthropic , ante los 15 miembros del consejo.

Su competidor Sam Altman, CEO de OpenAI, resumió el peligro en otros términos: “Podríamos perder el control del futuro frente a la IA”.

Ambos reclamaron medidas para impedir que la tecnología alcance niveles de poder difíciles de contener y advirtieron sobre otro riesgo: que su desarrollo quede concentrado en una sola empresa o país.

Para Altman, la respuesta requiere participación estatal.

“Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarse solo en laboratorios de San Francisco.

Deben moldearse mediante procesos democráticos y por gobiernos responsables ante las personas a las que sirven”, dijo.

La reunión, convocada por Francia durante la Asamblea General de la ONU, se produjo en medio de advertencias sobre la posibilidad de que los sistemas de IA lleguen a mejorarse a sí mismos y escapen al control humano .

Amodei sostuvo que los países deben dejar de lado sus diferencias ante una tecnología que representa “una oportunidad global y una amenaza global”.

“Ningún líder, ninguna empresa y ninguna nación puede manejar esto por sí sola”, afirmó.

El diagnóstico más severo llegó de Yoshua Bengio , investigador canadiense considerado uno de los “padrinos” de la IA y copresidente del Panel Científico Internacional Independiente creado por la Asamblea General de la ONU el año pasado.

“Los peligros son reales e inminentes”, aseguró.

Según Bengio, el Consejo enfrenta “una amenaza sin precedentes” que ningún Estado puede contener en soledad y que no respeta fronteras.

El debate también tuvo una dimensión práctica.