Un arsenal innovador para contener el voraz virus de los deepfakes de voz

El avance imparable de la inteligencia artificial ha provocado que en los últimos tiempos las actividades fraudulentas con deepfakes de audio hayan aumentado, con la peligrosidad añadida de que se han sofisticado de tal manera que el resultado final cada vez es más indistinguible de lo real.

Pero la tecnología es un arma de doble filo que también sirve para contener el devastador virus de las voces clonadas, ya que puede entrenarse para rastrear anomalías y patrones extraños que pasan desapercibidos al oído humano.

En el mercado ya existen diferentes sistemas capaces de evaluar con precisión la autenticidad de la voz en cuestión de segundos, unas soluciones que, ante el repunte de los ataques, emergen como el salvavidas al que aferrarse para sortear unos engaños que provocan pérdidas millonarias y dañan la reputación de los negocios.

Sin embargo, los expertos consultados coinciden en que el nivel de preparación general es todavía deficitario por la falta de percepción del riesgo y, además, asimétrico, con las pymes como el eslabón más débil.

Un minuto de audio extraído de las redes sociales o de intervenciones públicas bastan para replicar la voz de una persona y utilizarla en prácticas ilegales, como suplantar al jefe de un departamento para ordenar una transferencia inmediata con la excusa de cerrar una operación.

Nos encontramos en una auténtica carrera armamentística tecnológica que obliga a las empresas a desplegar todo su arsenal para blindarse de las ofensivas.

Como explica Josep Curto Díaz, profesor de los Estudios de Informática, Multimedia y Telecomunicación de la UOC, las voces clonadas no solo serán más perfectas en calidad tímbrica, sino que los modelos de IA conversacionales hiperrealistas podrán reaccionar en tiempo real, interrumpiendo, respirando o simulando dudas con una naturalidad pasmosa. «Además, los engaños pasarán de ser masivos a masivamente personalizados, basados en datos filtrados o información sacada de nuestras redes sociales», advierte.

Una capa extra de 'realismo' para convencer a las víctimas.La lucha contra esta lacra requiere una actuación en diversos frentes. «Se están desarrollando soluciones de análisis forense del sonido que buscan artefactos no perceptibles para el oído humano y marcas de agua digitales ('watermarking'), si bien los ciberdelincuentes aprenden a eludir esas protecciones a la misma velocidad que aparecen», lamenta el experto, que aboga por establecer medidas a varios niveles: tecnológico, legislativo y social. «Cada uno de ellos –dice– pone su grano de arena.

Es decir, la tecnología de detección ayudará a mitigar el problema, pero el elemento decisivo continuará siendo el factor humano .