Bloquear plataformas como o Discord tem efeito prático? SIM

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Advogado especialista em mídia, telecomunicações e liberdade de expressão

Os crimes contra crianças e adolescentes, que são viabilizados pelas redes sociais, não são novidade. Em 2023, o The Wall Street Journal revelou como o algoritmo do Instagram conectava conteúdos de crianças a pedófilos. Falsos rumores veiculados no Facebook fomentaram linchamentos mundo afora, desde a Índia até o México, inclusive no Brasil. O caso de automutilação e suicídio de uma adolescente , transmitido ao vivo pelo Discord , é a tragédia mais recente.

Sobre este suicídio, a rede social emitiu nota explicativa para afirmar que não tem controle sobre os conteúdos que provê a seus usuários: "(...) investigou um servidor privado no qual acredita-se que indivíduos envolvidos em atividades criminosas tenham incentivado a automutilação e o desativou antes da morte da adolescente". Ora, se, eliminado o jogo de palavras, o provedor de aplicações confessa que demorou a identificar o risco a que estavam expostos os usuários, a conclusão é clara: O Discord foi inepto . Não é possível que a rede social proveja conexões para ligar criminosos com adolescentes e, depois da tragédia ocorrida, alegue que sua lentidão sistêmica fique impune, apesar de resultar na morte de uma jovem de 13 anos.

Banimento, como já aplicado em outras ocasiões, tem efeitos colaterais indesejados e resultados questionáveis

O Marco Civil da Internet (MCI) estabelece responsabilidades para os provedores de aplicações, como Discord, Instagram ou YouTube. Essas obrigações foram esclarecidas e robustecidas pelo Supremo Tribunal Federal (no julgamento do art. 19 do MCI), de modo que tais provedores têm de atuar proativamente contra conteúdos e práticas que coloquem em risco, entre outros, a vida e a integridade das crianças e adolescentes.

Trata-se de proteger, por um lado, a livre iniciativa e a liberdade de expressão do pensamento. E, por outro, assegurar que a proteção de crianças e adolescentes seja efetiva. Quando algoritmos induzem comportamentos viciantes, lesões e violações da dignidade da pessoa tornam-se ilegais e devem ser combatidos pela sociedade civil e pelas autoridades.

Depois da tragédia anunciada, autoridades e o próprio Discord se apresentaram à sociedade, agitando propostas de solução, todas elas atrasadas: a Advocacia-Geral da União ( AGU ), que não tem competência sobre o tema, provocou a autoridade competente, a Agência Nacional de Proteção de Dados (ANPD), que, por sua vez, instaurou procedimento administrativo; o Discord fez proposta de ajuste de sua conduta para aumentar a proteção às crianças em sua rede. Em processo sigiloso, o Ministério Público de São Paulo propôs que a rede social assinasse um Termo de Ajuste de Conduta. Por fim, a ANPD determinou a suspensão de transmissões ao vivo no Discord .

Mas o tempo urge: dados do Discord na Europa revelam que 41,4% das denúncias dizem respeito à proteção de crianças, segundo revela a SaferNet Brasil, em pesquisa baseada em dados do próprio Discord.