Satya Nadella pide un «botón de emergencia» para la IA: cualquier persona debería poder detenerlas mientras trabajan

El rápido desarrollo de la inteligencia artificial preocupa a Satya Nadella, CEO de Microsoft.

Por ello, el consejero delegado pidió de forma pública la implantación urgente de un sistema de supervisión estricto y un «botón de emergencia» que permita frenar a los modelos avanzados de IA mientras ejecutan tareas.Nadella señaló que ha llegado el momento de dar un paso atrás y replantear a fondo la arquitectura sobre la que se asienta el desarrollo de esta tecnología.

De hecho, los incidentes suceden de forma cada vez más continua y las tecnológicas parecen haber perdido el control sobre sus modelos de IA.Hasta ahora, cualquier fallo de un programa podía rastrearse con precisión hasta una línea de código concreta, pero los sistemas actuales de superinteligencia no permiten asociar sus respuestas a datos de entrenamiento o configuraciones específicas.

A pesar de ello, las empresas están permitiendo que los agentes de IA accedan a información confidencial y delegando acciones complejas.La IA comprendida como un «riesgo interno»El CEO de Microsoft sostiene que la industria debe aplicar a los modelos de IA los mismos protocolos de contención y límites de privilegios que se utilizan con empleados que tienen acceso a información sensible.«No podemos limitarnos a subcontratar la responsabilidad de lo que la inteligencia hace en nuestro nombre», señaló en un comunicado publicado en X , «las garantías que dé un proveedor del modelo no nos eximen de esa responsabilidad».Nadella también rechazó tratar a estos sistemas como cajas negras impenetrables y reclamó la creación de controles independientes fuera del propio modelo para auditar cada acción y que sea posible desconectarlo en cualquier momento. «Debemos asumir que un modelo está comprometido y contenerlo desde el principio», apuntó el CEO, «piensa en ello como un botón de emergencia».Además, remarcó que «una persona autorizada siempre debería poder pausar o apagar un modelo en mitad de una tarea» y concluyó que «el sistema de superinteligencia más fiable no será aquel con el modelo en el que más confiemos, será el que nos permita confiar menos en el modelo».