Jovens entre a IA e o discurso de ódio

A rede EU Kids Online divulgou recentemente documentos que voltam a colocar em debate a forma como devemos, principalmente as crianças e jovens, lidar com as redes sociais e a Inteligência Artificial Generativa.

Por um lado surge, uma vez mais, o alerta para a necessidade de debate sobre o que é disponibilizado nas redes sociais e a forma como essa informação é lida, e replicada pelos jovens utilizadores, e a hipótese de essas notícias e imagens criarem perceções muitas vezes erradas e potencialmente capazes de “moldar” opiniões.

Numa realidade distinta ficamos a saber que uma grande maioria das crianças e jovens portugueses já usam a IA generativa, nomeadamente para trabalhos escolares, principalmente na faixa etária entre os 15 e os 17 anos – Crianças e jovens (9-17 anos) e Inteligência Artificial Generativa em Portugal .

De acordo com Cristina Ponte, investigadora no Instituto de Comunicação da Nova (ICNova), citada pela Agência Lusa “houve em Portugal uma rápida penetração, uma rápida divulgação dos [sistemas de IA] entre os jovens, à margem dos professores, à margem dos pais”.

Uma utilização tão rápida e generalizada: merece ser questionada: se é verdade que a utilização da IA pode ajudá-los a recolher informação para os trabalhos, também sabemos que esses mesmos trabalhos podem ser feitos pela IA sem intervenção dos jovens.

Fica a pergunta: o que se aprende quando nos limitamos a copiar e colar de uma resposta retirada de um programa de Inteligência Artificial? E onde fica o espírito crítico? Já sobre o tema Novos usos, novos riscos? Direitos digitais de crianças e jovens (9-17 anos) – o nome de uma conferência nos dias 7 e 8 – , é referido que “mais de metade (52%) das crianças e jovens portugueses inquiridos afirma ter visto mensagens de ódio online pelo menos uma vez no último ano, proporção que sobe para 72% entre os adolescentes dos 16 aos 17 anos”.

Segundo os dados divulgados, os conteúdos incluem mensagens hostis dirigidas a pessoas ou grupos sociais com base no género, origem étnica, religião, nacionalidade, orientação sexual ou deficiência.

À primeira vista, a utilização da IA generativa e a exposição ao discurso de ódio parecem fenómenos distintos.

No entanto, ambos levantam a mesma questão fundamental: até que ponto as tecnologias digitais estão a influenciar a forma como os jovens aprendem, pensam e constroem a sua visão do mundo? Não sabemos ainda qual será o impacto de tudo isto.

Mas sabemos uma coisa: não podemos esperar que uma geração inteira descubra sozinha, daqui a dez ou 20 anos, as consequências de tecnologias que hoje estamos a introduzir nas suas vidas sem o debate, a educação e o acompanhamento necessários.

Entrevista.