Contenido generado por IA: Google apuesta por identificarlo de forma invisible mientras Europa exige etiquetarlo

La posibilidad de identificar un contenido generado por inteligencia artificial empieza a avanzar por caminos diferentes.

Google permite retirar la marca de agua visible de las producciones realizadas con sus herramientas, pero conserva sistemas que permiten reconocer su origen de manera invisible; en Europa, en cambio, la identificación de determinados contenidos generados o manipulados con IA ya forma parte de las nuevas exigencias de transparencia.

El contraste expone un problema que será cada vez más difícil de resolver a simple vista: cómo saber si una imagen, un video, un audio o un texto fue producido por una persona o por una máquina .

Delfina Arambillet , periodista especializada en inteligencia artificial y nuevas tecnologías, analizó este escenario en Infobae a la Tarde y planteó que será necesario contar con mecanismos capaces de acreditar el origen de esos contenidos.

“ Necesitamos que exista una marca de agua ”, sostuvo la especialista.

Aclaró que no necesariamente tiene que ser una señal visible para el usuario: puede tratarse de una identificación digital incorporada al archivo que permita comprobar posteriormente si fue generado o modificado mediante inteligencia artificial.

La identificación invisible de Google El caso de Google permite entender cómo funciona este sistema.

La compañía desarrolló SynthID , una tecnología que incorpora una marca de agua invisible en determinados contenidos generados por sus modelos y que puede ser detectada mediante herramientas específicas, aunque la señal no aparezca sobre la imagen o el video.

“ Google con su modelo Gemini había lanzado hace más de un año algo que se llama SynthID, que es básicamente una marca de agua, pero no visible para el ojo humano ”, explicó Arambillet.

Para la periodista, este tipo de mecanismos será cada vez más relevante a medida que las producciones artificiales reduzcan las diferencias perceptibles con aquellas realizadas por personas.

La discusión cobra otra dimensión porque la señal visible y la identificación digital no son necesariamente lo mismo.

Un usuario puede no encontrar ninguna indicación sobre una imagen, mientras que una herramienta especializada todavía puede determinar que fue generada mediante IA.

La pregunta pasa entonces por quién tiene acceso a esa información y en qué circunstancias puede utilizarla.

Europa convirtió la transparencia en una exigencia La Unión Europea decidió llevar esa discusión al terreno regulatorio.