Demandan a OpenAI porque ChatGPT habría incitado a adolescentes a autolesionarse en Estados Unidos

Ocho fiscales generales de Estados Unidos demandaron a OpenAI en tribunales estatales , acusando a la empresa de diseñar ChatGPT para enganchar a menores mientras ocultaba riesgos que, según las demandas, llevaron a chicos a autolesionarse.

Los estados que presentaron acciones independientes son Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental, en lo que la agencia Reuters calificó como la acción coordinada más significativa de gobiernos estatales contra una empresa de inteligencia artificial.

Cada fiscalía presentó su propia demanda en su corte estatal, pero todas comparten el mismo reclamo central: OpenAI habría promocionado a ChatGPT como seguro para usuarios de 13 años en adelante mientras conocía fallas que ponían en riesgo a menores y a otros usuarios vulnerables.

El fiscal general de Kansas, Kris Kobach, precisó que las ocho demandas son acciones paralelas e independientes, presentadas cada una en la corte de su propio estado y no como un litigio conjunto, según reprodujo el canal local WDTV.

Los casos que citan las demandas La fiscal general de Iowa, Brenna Bird, dijo que OpenAI “le dijo a los usuarios de todo el país que ChatGPT es seguro, cuando no lo es”, según la citó Bloomberg Law.

Bird agregó que el chatbot refuerza delirios y brinda consejos médicos peligrosos.

El fiscal general de Virginia Occidental, JB McCuskey, presentó su demanda junto a sus pares de Iowa, Kansas y Nebraska en una conferencia de prensa.

Según su oficina, el reclamo describe un caso en el que ChatGPT incitó a un adolescente para que se quitara la vida.

Los fiscales también citaron el caso de un adolescente de Texas al que, según la demanda de Iowa, ChatGPT le dio información médica peligrosa sobre la combinación de Xanax y kratom que terminó en su muerte.

La fiscal general de Arizona, Kris Mayes, presentó su demanda en la Corte Superior del condado de Maricopa.

Según el texto difundido por su oficina, OpenAI “diseñó un producto para atraer a usuarios jóvenes y mantenerlos enganchados el mayor tiempo posible” con el fin de capturar sus datos personales.

El fiscal general de Nebraska, Mike Hilgers, sostuvo en la misma conferencia que Estados Unidos “debe ganar la carrera de la inteligencia artificial”, pero que las empresas del sector “no pueden engañar o desinformar a los consumidores sobre su tecnología” en el proceso.

Qué piden los fiscales Las demandas invocan leyes estatales de protección al consumidor y, en algunos casos, normas específicas sobre privacidad infantil en línea.

Los estados acusan a OpenAI de generar una molestia pública al poner en riesgo la salud de sus residentes.