Na eleição, a corrida também é para detectar o uso de IA

As eleições concentram a atenção pública, aceleram o fluxo de informações e intensificam a polarização política.

Nesse ambiente, conteúdos gerados ou manipulados por Inteligência Artificial se espalham com facilidade.

O uso malicioso dessas produções pode desacreditar candidatos, influenciar eleitores, gerar desinformação e comprometer a democracia.

A velocidade com que imagens circulam durante a campanha dificulta a checagem de informações.

Isso se agrava com a evolução de ferramentas de IA com produções realistas.

“Alguns anos atrás a IA criava imagens e deixava pistas visuais como texturas malfeitas, cabelos não tão realistas, olhos e boca, às vezes, não perfeitamente formados e problemas na geração de mãos e outros elementos.

A IA de hoje já resolveu esse problema e agora as pistas são mais sofisticadas, no nível de pixel e aquisição/geração da imagem em si”, explica Anderson Rocha, professor da Unicamp.

Como o captcha sabe que eu não sou um robô? Para detectar evidências de IA sutis presentes nas imagens, é preciso recorrer a ferramentas que captam detalhes não perceptíveis a olho nu.

“Quando é uma fotografia, há uma interação da luz com o sensor que a IA ainda não imita direito, além de deixar pistas na própria constituição da imagem, ao combinar pixels vizinhos”, conta Anderson que também é o coordenador do laboratório de Inteligência Artificial Recod.ai.

Os pesquisadores desenvolveram o FakeScope , um modelo que reconhece imagens geradas por outras IAs.

Em vez de apenas dizer se uma imagem foi manipulada ou não, o FakeScope apresenta as evidências que embasaram sua decisão.

Continua após a publicidade Esse diferencial é ainda mais relevante em um processo eleitoral.

Uma classificação isolada oferece pouca informação para quem precisa avaliar um conteúdo suspeito.

Em uma campanha, jornalistas, pesquisadores e autoridades precisam reunir diferentes elementos antes de decidir como um material deve ser tratado.