CNE define o que pode e o que não pode no uso de IA por escolas e universidades

O Conselho Nacional de Educação (CNE) aprovou nesta terça-feira (1º) diretrizes para o uso de inteligência artificial (IA) na educação.

Entre outros pontos, as normas estabelecem níveis de risco para a utilização da tecnologia em diferentes atividades educacionais.

Agora, o documento segue para homologação do Ministério da Educação (MEC).

O CNE elaborou uma escala de risco para orientar escolas e universidades no uso da inteligência artificial.

Os níveis variam de “baixo risco” até “risco excessivo ou incompatível com as finalidades educacionais”, a depender da aplicação.

As redes de ensino terão até 12 meses para se adequar às normas após a homologação do texto.

A intenção do conselho é orientar gestores e instituições para um uso responsável dessas ferramentas, sem prejuízos aos estudantes.

Veja abaixo as atividades vinculadas a cada nível de risco: Os usos considerados de baixo risco são, em geral, aqueles relacionados ao planejamento e à organização, sem impacto direto em avaliações ou decisões acadêmicas.

Entre eles: organização de materiais didáticos; apoio à acessibilidade; revisão textual sem finalidade avaliativa; ferramentas auxiliares de planejamento; sistemas sem perfilização individual significativa.

O CNE classificou como risco moderado os usos que promovem algum nível de interação com os estudantes.

Nessa categoria estão mecanismos de apoio à aprendizagem, produção de conteúdo e fornecimento de feedback.

Nesses casos, é obrigatória a revisão humana e o monitoramento frequente. sistemas de tutoria; ferramentas de feedback formativo; assistentes institucionais; apoio à produção textual; mecanismos de recomendação acadêmica sem efeito decisório automático.

Foram classificadas como atividades de alto risco aquelas que podem impactar a vida acadêmica dos estudantes ou restringir direitos, como processos de seleção automatizada.

A resolução também inclui aplicações que envolvam tratamento de dados sensíveis. sistemas de correção automatizada de avaliações com repercussão acadêmica; “proctoring biométrico”, ferramenta que utiliza IA para verificar características físicas dos estudantes em tempo real; perfilização acadêmica individualizada; sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar; aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.