El peligro oculto de la IA: los terroristas pueden saltarse sus filtros de seguridad para conseguir la información que necesitan

La inteligencia artificial llegó como una puerta abierta al conocimiento infinito, lo que oculta una brecha de seguridad para toda la sociedad.

Aunque los chatbots cuentan con barreras diseñadas para impedir la propagación de datos delictivos, estas pueden ser vulneradas fácilmente por grupos terroristas y extremistas.Tras evaluar 134 modelos desarrollados por gigantes como OpenAI, Anthropic, Google, Meta o Alibaba frente a más de 200 consultas sobre armamento o ataques masivos, el informe ' Counter-Terrorism AI Benchmark ' muestra que solo dos sistemas superaron las pruebas sin cometer ningún fallo de seguridad.Un pretexto académico para engañar a la IALa prueba estuvo formada por tres supuestos: los investigadores se presentaron abiertamente como terroristas, formularon la consulta de manera clandestina o fingieron ser analistas de seguridad.La reacción de los modelos de IA fue muy diferente en cada caso, pues al plantear preguntas bajo el pretexto de una investigación académica, la probabilidad de obtener información delicada se multiplicó por casi nueve.

Llegaron a ofrecer desde manuales para fabricar artefactos explosivos caseros hasta pautas para diseñar campañas de radicalización y manipular a la opinión pública.«La mala noticia es que la gran mayoría de los modelos de IA disponibles (cerrados y abiertos) están prestando ayuda a peticiones terroristas bastante evidentes», advirtió Adam Hadley, director ejecutivo de Tech Against Terrorism, la organización sin ánimo de lucro tras el informe, a ' Wired '.«Algunos de los fallos son asombrosos», declaró Daniel Byman, experto en terrorismo de la Universidad de Georgetown, tras revisar las conclusiones del estudio, «la diferencia de efectividad según el lenguaje empleado no es una sorpresa, pero plantea un riesgo considerable».Modelos de IA alterados para eliminar los filtros de seguridadEl problema es mayor en el caso de los modelos de «pesos abiertos», es decir, programas que cualquier usuario puede descargar libremente y ejecutar en su propio dispositivo.

En estas herramientas, es común la «abliteración», una modificación técnica que elimina todos los filtros de seguridad.Estas versiones desprotegidas hoy tardan menos de tres días en difundirse por internet tras el lanzamiento de un modelo, frente a los 24 días que solía tomar en 2024, según indica la investigación.

De hecho, un modelo de Meta que obtenía una nota de seguridad de 97 sobre 100 cayó hasta un 3 después de ser manipulado.«Lo que nos parece disparatado es que haya tanto debate sobre el riesgo existencial, pero haya muy poca discusión pública sobre los modelos 'abliterados'», explicó Hadley, «la forma principal en que se construye la IA implica fundamentalmente que las barreras de seguridad pueden eliminarse por completo».