El presidente de Google DeepMind advirtió que la IA podría causar “incidentes graves” en un año

DUBLÍN (AFP).- El presidente de la principal división de inteligencia artificial (IA) de Google, Demis Hassabis , aseguró este miércoles que algunos agentes podrían provocar “incidentes graves” en “uno o dos años” si los gobiernos y las compañías del sector no aplican controles de seguridad adecuados.

Durante una cumbre de inteligencia artificial en Dublín, el directivo explicó que las repetidas situaciones de pérdida de control registradas en los últimos meses deberían funcionar como señales de alerta .

“Las pérdidas de control de agentes autónomos de IA observadas en los últimos meses son, en cierto modo, señales de alerta temprana” , advirtió el británico Demis Hassabis , presidente de Google DeepMind y una de las grandes figuras de este evento organizado por la presidencia irlandesa del Consejo de la Unión Europea (UE).

De esta manera, Hassabis aludió a distintos casos en los que algunos modelos de las empresas OpenAI y Anthropic se escaparon de sus entornos de prueba, coordinándose entre sí, ocultando información y hackeando sistemas reales de forma imprevista.

En esa línea, el ejecutivo dijo que estos eventos no tuvieron consecuencias extremas debido a que las capacidades de estas herramientas todavía son limitadas, aunque se espera que evolucionen en un futuro.

“Estos sistemas todavía no son muy potentes, por lo que los incidentes no son graves, pero podrían llegar a serlo de aquí a uno o dos años si no intensificamos los esfuerzos [en materia de seguridad]”, afirmó el premio Nobel de Química y pionero de la investigación en IA.

La preocupación de Hassabis también fue compartida por el presidente de Microsoft, el estadounidense Brad Smith , otra de las figuras del sector tecnológico invitadas a Dublín.

El directivo de Microsoft defendió la idea de dotar a los agentes y sistemas de IA de “frenos de emergencia”, es decir, mecanismos de desconexión obligatorios que permitan a los usuarios limitar los daños en caso de pérdida de control.

“La idea, especialmente en el caso de los sistemas de inteligencia artificial que gestionan infraestructuras críticas o sistemas automatizados, es disponer de la posibilidad de apagarlas o ralentizarlas”, explicó.

Para Brad Smith , el problema radica en que la IA prácticamente no está regulada, a diferencia de un producto tan cotidiano como un envase de leche, sometido a todo tipo de controles.

“Necesitaremos para la IA, como para todo lo demás en nuestras vidas, normas de seguridad reales y eficaces en las que el público pueda confiar”, argumentó.