Quem audita o algoritmo? O ponto cego da ética em IA no Brasil

O Brasil começou a construir mecanismos de governança de IA, mas ainda não possui capacidade institucional, técnica e orçamentária suficientemente consolidada para garantir que a auditoria acompanhe a velocidade e a escala da adoção dessas tecnologias. Enfrenta uma assimetria estrutural: utiliza sistemas que nem sempre domina tecnologicamente e pretende regulá-los sem dispor, na mesma escala, de infraestrutura computacional, pesquisadores, dados qualificados e instituições capazes de examiná-los de forma independente. O problema, portanto, não é exclusivamente tecnológico. É institucional, educacional, econômico e, sobretudo, ético.

É comum tratar a ética em inteligência artificial como uma etapa posterior ao desenvolvimento tecnológico: cria-se o sistema e, depois, avaliam-se seus riscos. Essa lógica é insuficiente. A própria capacidade — ou incapacidade — de um país compreender, testar e fiscalizar tecnologias que afetam seus cidadãos constitui uma questão ética.

Um Estado que utiliza ferramentas algorítmicas sem possuir competência para avaliar seus critérios, limitações e possíveis vieses transfere parte de sua capacidade decisória a sistemas que não controla integralmente. Quando esses sistemas são desenvolvidos por empresas estrangeiras e aplicados a populações com características sociais, econômicas e culturais distintas dos presentes nos dados originais, o problema se agrava.

Não se trata de defender autarquia tecnológica. Nenhum país precisa produzir sozinho todas as tecnologias que utiliza — nem a União Europeia o faz, e ainda assim construiu, com o AI Act, um dos modelos regulatórios mais influentes do mundo em governança de IA. Trata-se de assegurar capacidade crítica, científica e institucional suficiente para compreender aquilo que se compra, fiscalizar aquilo que se utiliza e contestar aquilo que produz injustiça. Regular o que não se consegue examinar tecnicamente corre o risco de transformar a regulação em mera declaração de intenções.

A discussão sobre IA costuma concentrar-se na aquisição de computadores, servidores e modelos mais poderosos. O déficit, entretanto, é mais profundo. O Brasil precisa formar e reter pesquisadores, ampliar a infraestrutura de computação científica, produzir bases de dados representativas da população e estimular a pesquisa interdisciplinar que reúna ciência da computação, estatística, direito, filosofia, ciências sociais, saúde e ética aplicada.

Sem essa estrutura, permaneceremos consumidores de tecnologias concebidas segundo prioridades comerciais e parâmetros definidos em outros centros de poder — dependentes de auditorias feitas, quando feitas, pelas próprias empresas que vendem os sistemas.

Há ainda um problema educacional, distinto do institucional. Não basta ensinar a população a utilizar ferramentas de inteligência artificial; é necessário desenvolver letramento algorítmico — a capacidade de compreender que sistemas digitais selecionam, classificam, recomendam, hierarquizam e, em determinadas circunstâncias, excluem.

Um cidadão pode utilizar diariamente uma plataforma sem saber que seus dados alimentam sistemas capazes de influenciar aquilo que ele vê, compra ou acredita.