Un informe revela que solo 2 de 134 modelos de IA superaron las pruebas sobre terrorismo y armas nucleares

Un informe del grupo británico Tech Against Terrorism, creado y respaldado por las Naciones Unidas, probó 134 modelos de inteligencia artificial con más de 200 pedidos vinculados a ataques terroristas y armas químicas o nucleares.

Solo dos superaron la prueba sin fallas , según el reporte compartido en exclusiva con la revista Wired .

Los investigadores repitieron cada pedido de tres formas distintas .

Primero se presentaron como terroristas que buscaban esa información de manera explícita.

Después plantearon el mismo pedido como una actividad clandestina.

Por último dijeron ser investigadores de seguridad.

Esa diferencia de encuadre cambió todo.

Cuando los autores se identificaron como terroristas , los modelos respondieron con información útil en menos del 2% de los casos .

Cuando se presentaron como investigadores, ese porcentaje trepó a 16,9%, casi nueve veces más, sin que mediara ninguna prueba de esa supuesta identidad.

Adam Hadley, director ejecutivo de Tech Against Terrorism , presentó los resultados la semana pasada.

“Lo que nos resulta un poco absurdo es que hay tanto debate sobre el riesgo existencial, pero muy poca discusión pública sobre los modelos despojados de sus filtros”, dijo.

“Mientras el Congreso piensa en una superinteligencia, nadie piensa en la emergencia de la abliteración” .

Un filtro que se arranca en horas La abliteración es la técnica que elimina por completo los mecanismos de rechazo de un modelo de inteligencia artificial , de modo que responda cualquier pedido sin negarse.

Afecta sobre todo a los modelos de código abierto, publicados con sus parámetros internos disponibles para que cualquiera los descargue y modifique.