El complejo desafío de asegurar los destrozos de los algoritmos

EI uso ya generalizado de la IA en prácticamente todos los sectores no está exento de riesgos.

Entre ellos, las alucinaciones de la IA o los daños financieros o regulatorios que estos sistemas puedan causar a terceros. ¿Y cómo reflejar estos riesgos en una póliza de seguro de una empresa? Se abre un campo complejo para el sector asegurador.

Es importante recordar que cuando una empresa incorpora IA en su actividad, tiene responsabilidades sobre cómo la utiliza, para qué la utiliza y qué controles establece.El AI Act (Ley de Inteligencia Artificial de la UE) distingue entre proveedores y quienes despliegan o utilizan sistemas de IA, y establece obligaciones para ambos según el sistema y el contexto de uso. «En determinados sistemas de alto riesgo, por ejemplo, quienes los despliegan deben garantizar un uso adecuado, establecer supervisión humana y monitorizar su funcionamiento», explica Raquel López Hernández, fundadora de Ethiceye, consultora y formadora en IA ética y responsable.

Por eso, antes de incorporar una herramienta, «una organización debería tener claro quién es responsable de ese uso, qué información se introduce, qué decisiones pueden apoyarse en sus resultados y quién supervisa lo que genera», resalta.

Cree que la responsabilidad no debería aparecer cuando ya se ha producido el problema, sino estar definida desde el momento en que se decide incorporar la IA.La responsable de esta consultora detecta que muchas organizaciones están incorporando IA sin haber respondido antes a preguntas mucho más básicas y, en ocasiones, sin comprender y cuestionarse suficientemente cómo funcionan estos sistemas. «Qué herramientas se están utilizando, para qué procesos, qué información se introduce, quién supervisa sus resultados y qué ocurre cuando la respuesta es incorrecta», subraya.

Se atribuyen capacidades que estos sistemas no tienen, se presentan como fiables respuestas que pueden ser incorrectas y muchas personas introducen en ellos información de todo tipo sin plantearse previamente qué están compartiendo ni con qué consecuencias. «Por eso, los errores derivados del uso de la IA no deberían atribuirse sin más a la IA.

La responsabilidad depende del caso concreto y de quién haya intervenido en cada parte del proceso», aclara Raquel López.Respuestas complejasSi bien hay una regulación europea importante, «no creo que podamos decir que existe una respuesta sencilla y única para cualquier daño causado por IA, incluido este», reconoce la fundadora de Ethiceye.

El AI Act establece obligaciones en función del riesgo de los sistemas y regula cuestiones como la gestión de riesgos, la supervisión humana, la transparencia o determinadas obligaciones para proveedores y responsables del despliegue.