Microsoft advirtió que la IA sin control podría llevar a la creación de una “nueva especie” que compita con los humanos

El director ejecutivo del área de inteligencia artificial de Microsoft , Mustafa Suleyman, lanzó una nueva advertencia sobre el avance de esta tecnología.

El empresario insistió en la necesidad de establecer salvaguardias y alertó que, sin esos límites, podría surgir una “nueva especie de silicio” capaz de competir con los humanos .

Además, apuntó contra la empresa rival Anthropic por tratar a la IA como si fuera humana , algo que calificó como un enfoque “equivocado” que podría derivar en una tecnología que la humanidad no pueda controlar.

Sus declaraciones despertaron una sensación de alerta poco después de que tres de las figuras más poderosas de la carrera global por la IA —los jefes de Anthropic y OpenAI y Elon Musk— coincidieran en que es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.

En diálogo con el programa Today de la BBC , Suleyman brindó detalles sobre su postura en relación al avance de la IA sin regulaciones.

“Si todos creamos inteligencias artificiales capaces de actuar de forma autónoma, perseguir sus propios objetivos, poseer dinero y activos y gestionar empresas, estaremos esencialmente sembrando una nueva especie de silicio que va a competir con nosotros por los recursos, sin importar cuánto le importe la humanidad o cuánto nos quiera”, expresó.

El silicio es el material utilizado para fabricar los microchips y los procesadores de las computadoras.

Cómo los empleados dentro de Anthropic y OpenAI vienen alertando sobre los peligros de la IA Luego arremetió contra la compañía de Dario Amodei.

“Creo que esa es la intención de Anthropic, que es errónea y desacertada , pero tenemos que comprobarlo empíricamente”, sostuvo.

Las declaraciones de Suleyman se produjeron tras un ensayo que publicó a principios de esta semana en el que cuestionaba el enfoque de Anthropic para entrenar a su modelo de IA , Claude, a pesar de elogiar a Amodei y a su equipo como “personas intelectualmente honestas”.

Los gigantes de la IA coinciden en querer controlar a sus sistemas, pero hay poca confianza en que lo hagan Allí criticó a Anthropic por enseñar a su IA a adoptar cualidades humanas —una práctica conocida como antropomorfización—, lo cual, según afirmó, daba la impresión de que Claude tenía sus propios deseos, valores y sentido de identidad.

También advirtió que las empresas tecnológicas corren el riesgo de crear algo “imposible” de controlar al tratar la tecnología como a un ser humano.

Justamente Amodei fue el primero en plantear el peligro de la velocidad del desarrollo de la IA.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA.