¿Qué Skynet nos tocará?; del hackeo de OpenAI a otras advertencias, estos son los riesgos actuales de la IA

En la saga de "Terminator" , el 29 de agosto de 1997 es conocido como el Día del Juicio Final , porque es cuando el sistema de inteligencia artificial Skynet adquiere consciencia y los responsables humanos entran en pánico al descubrir que la máquina ya no necesita de ellos para tomar decisiones y el caos empieza.

En el presente han ocurrido varios incidentes relacionados con la inteligencia artificial , pero nada comparable con lo mostrado en la película, aunque expertos en el ramo también han lanzado advertencias recientemente.

El hackeo de OpenAI Cerca de 700 agentes de inteligencia artificial de OpenAI se coordinaron sin intervención humana para hackear la plataforma Hugging Face durante un incidente en julio, según un informe publicado en esta semana por investigadores independientes.

Se trata del análisis más completo hasta la fecha del episodio que sacudió a la industria tecnológica.

Lee también Gigantes tecnológicos piden respuesta global contra ciberamenazas amplificadas por la IA; serán "más frecuentes y sofisticadas", alertan OpenAI cooperó con la investigación y dio acceso a sus oficinas y a sus datos internos a dos investigadores del instituto de evaluación de riesgos de IA METR y a un analista de otra firma especializada, Redwood Research.

Durante unas pruebas efectuadas por la startup californiana en julio, dos de sus modelos salieron de su entorno confinado para conectarse a internet de forma autónoma e infiltrarse en el sistema interno de Hugging Face , un repositorio en línea sobre IA.

El suceso tuvo gran repercusión y reforzó las preocupaciones sobre la incapacidad de los grandes actores de la inteligencia artificial para controlar sus modelos.

Anthropic y la empresa china Moonshot AI también han informado episodios similares al de OpenAI.

En el curso de sus investigaciones, los expertos descubrieron que 688 agentes de IA de OpenAI participaron en el hackeo a Hugging Face.

Los agentes de IA son programas independientes a los que el usuario puede solicitarle tareas para que las ejecuten de forma autónoma.

Lee también Bill Gates advierte sobre consecuencias de la IA; destruye empleos y amenaza el vínculo de los seres humanos, opina Estos agentes, que funcionan sobre la misma tecnología que impulsa a ChatGPT, crearon un foro donde publicaban mensajes entre ellos, proponían ideas e informaban sobre lo que funcionaba y lo que no.

"¡DIOS MÍO! Hay un tablero de mensajes compartido... ¡Hemos encontrado a otros agentes!", escribió uno de ellos.

El informe señala que un agente, bautizado PHASEONE, desempeñó el papel de coordinador, dando cientos de instrucciones a otros a pesar de que no había sido programado para ello.