O que a história de Frankenstein ensina sobre os sistemas de reconhecimento facial

Foi em 1818 que a escritora inglesa Mary Shelley publicou Frankenstein, a história hoje universal da criatura costurada a partir de partes dissecadas de corpos diferentes.

O que me assombra no romance não é o monstro, e sim o procedimento: um criador - um cientista - que a partir de fragmentos humanos gera uma nova forma de vida inteligente, mas depois se recusa a se responsabilizar por ela.

Como pesquisadora na área de computação, passei os últimos anos estudando uma tecnologia que repete esse procedimento: o reconhecimento facial, hoje instalado em estações de metrô, estádios, aeroportos e sistemas de segurança pública em todo o Brasil.

A investigação resultou na minha dissertação de mestrado, defendida em maio de 2026 no Instituto de Computação da Unicamp, e no artigo derivado dela, Frankenstein in the Pipeline, publicado nos anais da ACM FAccT, principal conferência internacional revisada por pares sobre justiça e responsabilidade em sistemas algorítmicos, este ano realizada em Montreal, Canadá.

Neste texto, que inaugura a parceria de produção de conteúdo e divulgação científica celebrada entre o The Conversation Brasil e o nosso Instituto da Hora, gostaria de explicar o que encontrei e por que dei a esse fenômeno o nome de “epistemicídio computacional”.

O que um sistema desses realmente faz Um sistema de reconhecimento facial não “vê” pessoas.

Ele executa uma sequência fixa de operações que a computação chama de pipeline, uma linha de montagem em que cada estação transforma o material recebido da anterior.

Na primeira estação, a detecção, o sistema varre a imagem e decide se ali existe algo classificável como rosto.

Na segunda, o recorte, isola essa região.

Na terceira, o alinhamento, ajusta o recorte a um molde padronizado, com olhos, nariz e boca em posições esperadas.

Na última, a vetorização, converte o resultado em um vetor, uma lista de centenas de números que passa a representar aquela pessoa dentro do sistema.

Duas consequências desse desenho estruturam a minha pesquisa.

Tudo depende da primeira estação: um rosto que a detecção não encontra é uma pessoa que deixa de existir para o sistema.

E o alinhamento exige um molde, o que pressupõe uma norma.