Quando os algoritmos criam problemas jurídicos

Na passada semana, a Meta chegou a um acordo que pode custar-lhe cerca de 17 mil milhões de dólares e que põe fim a uma parte relevante da litigância sobre os efeitos do Facebook e do Instagram em menores.

O acordo obriga ainda a alterações nas plataformas, como limites de utilização, bloqueio nocturno, restrições às notificações e a opção por um feed não personalizado.

Este processo ilustra um dos efeitos dos algoritmos nas redes sociais que procurei descrever em “Algoritmocracia”: a captura da nossa atenção.

A personalização torna a experiência mais simples e conveniente.

Mas, ao aprenderem aquilo que nos faz parar, clicar ou continuar, os algoritmos conseguem também manter-nos mais tempo nas plataformas e condicionar progressivamente aquilo que vemos.

E aprenderem com o nosso comportamento não significa saberem o que verdadeiramente queremos: conhecer a nossa atenção não é conhecer a nossa vontade .

A curiosidade pode fazer-nos abrandar perante um acidente; não significa que queiramos encontrar outros pela estrada.

O algoritmo pode ler essa atenção como preferência e dar-nos mais do mesmo.

Por isso defendi maior controlo sobre a personalização dos feeds e sobre os critérios que determinam o que vemos.

É uma proposta que vejo agora, com satisfação, surgir neste acordo.

Mas o problema vai muito além das redes sociais.

O caso da Meta mostra como escolhas feitas no desenho de um algoritmo podem produzir efeitos não antecipados.

E isso vale para qualquer sector.

Algoritmos já apoiam diagnósticos clínicos, avaliam risco de crédito, seleccionam candidatos a emprego, ajustam preços, detectam fraude ou estabelecem prioridades em sistemas de segurança.