Satya Nadella, CEO de Microsoft, impone la regla de oro en IA para las empresas: “Si no se puede observar, no se puede confiar”

Satya Nadella, CEO de Microsoft , impone la regla de oro en IA para las empresas : “Si no se puede observar, no se puede confiar”.

El directivo lo expresó en una publicación en Twitter/X donde defendió un principio concreto: confiar en los modelos de inteligencia artificial lo menos posible y rodearlos, en cambio, de reglas, permisos y vigilancia independiente.

Su planteamiento parte de una separación clara entre dos cosas que hoy suelen confundirse: el suministro de inteligencia y la autoridad para actuar con ella.

La propuesta llega en un momento en que las empresas incorporan agentes de IA a sistemas con acceso a datos sensibles, sin que exista una explicación clara de por qué estos modelos toman las decisiones que toman.

Nadella busca trasladar el peso de la seguridad desde el modelo en sí hacia el entorno que lo rodea.

Por qué Nadella desconfía de los modelos de inteligencia artificial El argumento de base que sostiene Nadella es técnico y, a la vez, sencillo de entender.

Con el software tradicional, cualquier comportamiento inesperado podía rastrearse hasta una línea de código concreta.

Con los modelos de inteligencia artificial actuales, eso ya no es posible.

Esa diferencia es la que lleva al CEO de Microsoft a hablar de los modelos como cajas negras.

Si no se puede observar el interior de un sistema, sostiene, la seguridad no puede depender de la confianza ciega en ese sistema, sino del diseño del entorno que lo contiene.

De ahí se desprende la frase que resume su postura: “debemos construir sistemas contenidos cuyo comportamiento podamos observar, cuyos límites podamos poner a prueba y cuyas acciones siempre podamos contener”.

La observación deja de ser un extra y se convierte, según Nadella, en condición previa para cualquier forma de confianza.

Esta idea conecta con otra publicación anterior del directivo en Twitter/X, donde ya había defendido el control humano sobre la tecnología: “si la IA que construimos no está ayudando a la humanidad y no está bajo control humano, no vale la pena perseguirla”.

La responsabilidad de las empresas no se delega al proveedor de IA Nadella es especialmente tajante en un punto que afecta directamente a las empresas que contratan servicios de inteligencia artificial de terceros.