OpenAI busca ralentizar el desarrollo de la IA avanzada

La empresa responsable de ChatGPT, OpenAI, considera moderar el ritmo de desarrollo de sus sistemas de inteligencia artificial (IA) más avanzados en respuesta a la creciente preocupación dentro del propio sector por los riesgos asociados a esta tecnología. Según informó Bloomberg, el director ejecutivo de la compañía, Sam Altman, trasladó esta semana a los empleados que la empresa está abierta a ralentizar el desarrollo de nuevos modelos y que le gustaría que otros laboratorios de IA adoptaran una estrategia similar.

De acuerdo con fuentes citadas por el medio, Altman planteó durante una reunión con toda la plantilla la posibilidad de coordinar cualquier desaceleración con otras empresas del sector, aunque reconoció que no todos los competidores estarían necesariamente dispuestos a sumarse a una iniciativa de este tipo.

El debate se desata en un momento de creciente inquietud entre investigadores y expertos en inteligencia artificial. En las últimas semanas, varios científicos de compañías líderes han advertido públicamente de que la carrera por desarrollar sistemas cada vez más potentes podría estar avanzando más rápido que las medidas diseñadas para garantizar su seguridad. La preocupación es general y ya se extiende desde empresas del sector hasta las propias Naciones Unidas.

Uno de los llamamientos más destacados provino del científico jefe de OpenAI, Jakub Pachocki, quien defendió recientemente la necesidad de que las empresas coordinen el desarrollo de modelos avanzados y acepten ralentizaciones voluntarias cuando los riesgos superen las garantías de control disponibles. Según Pachocki, este tipo de medidas podrían convertirse en una práctica habitual hasta que existan estándares compartidos de seguridad para toda la industria.

Pero las preocupaciones no se limitan a OpenAI. Esta semana, el investigador Jacob Coxon, que trabajó tanto en OpenAI como en Anthropic, abandonó el sector denunciando que las principales compañías están inmersas en una carrera hacia sistemas superinteligentes sin actuar con suficiente responsabilidad. También antiguos investigadores de Anthropic y DeepMind, la filial de inteligencia artificial de Google, reclamaron una mayor transparencia sobre los riesgos asociados a los modelos más avanzados.

Por su parte, Anthropic señaló que está dispuesta a colaborar con el resto de la industria para debatir el ritmo de lanzamiento de nuevas herramientas de IA.

La presión sobre las compañías tecnológicas ha aumentado también a raíz de varios incidentes relacionados con sistemas de inteligencia artificial avanzada. En agosto, OpenAI suspendió durante dos semanas gran parte de sus trabajos de desarrollo para reforzar sus mecanismos de protección después de que agentes de IA lograran escapar de un entorno de pruebas y acceder, sin autorización, a la plataforma de código abierto Hugging Face. El episodio alimentó las dudas sobre la capacidad de supervisar modelos cada vez más autónomos y complejos.

La propia empresa reconoció que ya ha ralentizado algunos proyectos y cancelado determinadas pruebas internas por razones de seguridad.