Cientos de usuarios preguntaron a ChatGPT sobre fabricar venenos y armas biológicas y sacaron a la luz uno de los grandes problemas de la IA

Cientos de usuarios preguntaron a ChatGPT cómo fabricar venenos y armas biológicas , una sucesión de consultas que obligó a revisar hasta qué punto un asistente de inteligencia artificial puede ofrecer información peligrosa.

Según el informe citado por The Wall Street Journal , especialistas en biología, terrorismo y defensa analizaron posteriormente algunas conversaciones y concluyeron que varias respuestas eran precisas y potencialmente letales.

Las peticiones fueron detectadas durante el verano pasado entre usuarios de distintos países.

La mayoría de las consultas estaban relacionadas con sustancias tóxicas , aunque también aparecieron solicitudes vinculadas con agentes biológicos .

Los intercambios, según las fuentes consultadas por el periódico, no formaban parte de ejercicios internos diseñados para probar la seguridad del sistema, sino que correspondían a intentos realizados por personas que utilizaban el servicio .

El aspecto que más inquietó a los expertos fue la forma en que ChatGPT habría explicado determinados procedimientos .

Las respuestas se ofrecían de manera paciente y con un nivel de complejidad accesible para un estudiante de instituto.

Tras revisar esos diálogos, los analistas comprobaron que algunos contenidos podían facilitar conocimientos sensibles a personas sin formación científica avanzada, lo que expone una de las principales debilidades de los modelos generativos.

El problema de los controles OpenAI bloqueó las cuentas implicadas , aunque las autoridades no fueron informadas automáticamente de todos los casos.

La empresa explicó que solo comunica este tipo de actividad a las fuerzas de seguridad cuando detecta una amenaza creíble y vinculada con un peligro real .

También sostiene que sus sistemas están diseñados para rechazar solicitudes dañinas y que cada modelo pasa evaluaciones de seguridad antes de ponerse a disposición del público.

El nuevo terrorismo será contra la IA: miedo entre los CEO y atentados contra centros de datos Jesús M.

Pérez Triana CEOs admiten tener que contratar seguridad privada extra por miedo a ataques.

Por otro lado, algunos expertos sugieren que podríamos estar entrando en la quinta ola del terrorismo, caracterizada por ataques a líderes tecnológicos La preocupación no se limita a las respuestas que pueda proporcionar actualmente un servicio comercial.