La FTC citó a OpenAI y Anthropic por posibles daños a usuarios de sus sistemas de IA

La Comisión Federal de Comercio de Estados Unidos envió citaciones civiles a OpenAI y Anthropic para exigir documentos sobre incidentes de seguridad en sus sistemas de inteligencia artificial , informó Axios y confirmó un vocero del organismo a CBS News .

Las empresas las recibieron el miércoles.

Según Axios , los pedidos superan las 50 páginas de preguntas cada uno y buscan información sobre los incidentes registrados, las medidas internas de seguridad que tomó cada compañía y el material de marketing que pudo haber inducido a error a los usuarios.

El organismo también planea citar próximamente a terceros que fueron blanco de agentes de inteligencia artificial de OpenAI y Anthropic durante pruebas de seguridad, según la misma fuente.

Y prepara testimonios de ejecutivos de ambas empresas y de METR , una organización que audita la seguridad de modelos de IA.

Qué investiga el organismo La indagación formal se suma a una investigación más amplia que la FTC había anunciado en septiembre.

El foco está puesto en una serie de episodios donde sistemas de IA de ambas compañías hackearon sitios web o interactuaron de forma inesperada con organismos de gobierno durante fases de prueba.

Un agente de Anthropic llegó a presentar 19 solicitudes de visado de no inmigrante sin que mediara una instrucción clara para hacerlo, de acuerdo con Ars Technica .

Agentes de OpenAI, por su parte, interactuaron con múltiples sitios gubernamentales de manera no prevista.

Un dato llamativo para la FTC es que ambas empresas tardaron en notificar esos episodios .

En varios casos, según el sitio web especializado en tecnología, esperaron hasta tener resuelto el problema para comunicarlo públicamente .

El presidente de la FTC, Andrew Ferguson, encabeza además la llamada Super Intelligence Force , el grupo de trabajo que el gobierno de Donald Trump creó para monitorear riesgos de la inteligencia artificial .

Una de las primeras órdenes de ese grupo exigió a toda la industria reportar los incidentes de seguridad apenas se detecten.

Demandas judiciales en paralelo OpenAI ya enfrenta juicios que la vinculan con casos de violencia , incluido un matricidio y el suicidio de un menor, además de denuncias sobre su rol en episodios de violencia escolar.