Prevenção com Devido Processo

Contribuições do IRIS à Consulta da ANPD sobre o Guia Orientativo “Fornecedores de Produtos ou Serviços de Tecnologia da Informação” do ECA Digital

1. Contextualização

A presente contribuição é submetida pelo Instituto de Referência em Internet e Sociedade (IRIS) no âmbito da consulta pública promovida pela Autoridade Nacional de Proteção de Dados (ANPD) acerca do Guia Orientativo sobre “Fornecedores de Produtos ou Serviços de Tecnologia da Informação” previsto na Lei nº 15.211/2025 (ECA Digital). 

O Instituto de Referência em Internet e Sociedade (IRIS) é um centro de pesquisa independente e interdisciplinar, fundado há mais de 10 anos, dedicado a produzir e comunicar evidências que avancem a transformação digital com foco no fortalecimento de direitos humanos e da democracia. As observações apresentadas dialogam com a trajetória institucional do IRIS em temas relacionados à regulação de plataformas digitais, especialmente no que diz respeito à transparência e ao devido processo na moderação de conteúdo. 

A consulta pública promovida pela ANPD constitui, nesse sentido, uma importante oportunidade de construção participativa de parâmetros interpretativos para a aplicação do principal marco normativo brasileiro para crianças e adolescentes nos ambientes digitais e de uma das iniciativas pioneiras de regulação específica de plataformas digitais no país.

Esta contribuição se concentra no tópico do dever de prevenção no contexto da prioridade absoluta na proteção integral dos direitos de crianças e adolescentes, sem se aprofundar em relação à taxonomia dos fornecedores de produtos e serviços, nem ao tema do acesso provável. Por isso, neste documento são apresentadas observações sobre o mérito do conteúdo e a nitidez e compreensão de seus conceitos, com o objetivo de aprimorar sua redação e fortalecer a coerência entre as diferentes dimensões do dever de prevenção previstas no ECA Digital.

2. Dever de prevenção

Em síntese, a principal contribuição consiste em reforçar que, no contexto da moderação de conteúdo, o dever de prevenção não se restringe à identificação e contenção de riscos decorrentes de conteúdos e condutas dos usuários. Sugerimos que esse dever abranja igualmente a necessidade de prevenir danos decorrentes das próprias medidas de moderação adotadas. Nessa perspectiva, mostra-se importante que tais medidas sejam acompanhadas de garantias procedimentais, mecanismos de correção de erros, respostas proporcionais e transparência quanto à eventual utilização de sistemas automatizados, no âmbito da eficácia horizontal de um devido processo na moderação.

As sugestões a seguir abordam questões de mérito e de conceituação.

    2.1. Quanto ao mérito do conteúdo, as sugestões são:

• Aumentar a nitidez sobre a dimensão procedimental do dever de prevenção:

Embora o Guia mencione brevemente o art. 30 do ECA Digital no exemplo apresentado entre as páginas 27 e 28, é importante explicitar no guia que esse dispositivo desempenha papel central para a concretização do dever de prevenção, na medida em que busca assegurar que as medidas adotadas para prevenir danos não produzam, elas mesmas, novos riscos ou violações de direitos.

Isso ocorre, em primeiro lugar, porque as garantias procedimentais nele previstas protegem não apenas crianças e adolescentes potencialmente afetados pelo conteúdo, mas também os usuários submetidos a medidas de moderação, assegurando respostas proporcionais e compatíveis com os direitos fundamentais. 

Em segundo lugar, porque os deveres de notificação e fundamentação das decisões concretizam a dimensão informacional do dever de prevenção, ao exigir transparência quanto aos motivos da remoção e quanto ao eventual emprego de sistemas automatizados, permitindo que os usuários compreendam a medida adotada e exerçam adequadamente seus direitos. 

Por fim, o art. 30 também contribui para a dimensão da segurança, ao promover maior segurança jurídica e confiabilidade dos sistemas de moderação por meio da previsão de procedimentos acessíveis, mecanismos de recurso e prazos claramente definidos para revisão das decisões. Dessa forma, o art. 30 evidencia que a prevenção não se limita à remoção de conteúdos potencialmente danosos, mas compreende também a mitigação dos riscos decorrentes de erros de moderação.

No mesmo sentido, recomenda-se explicitar, no desenvolvimento conceitual do dever de prevenção, e não apenas nos exemplos, que a adoção de mecanismos preventivos pressupõe a capacidade de demonstrar sua efetividade. Para tanto, torna-se relevante assegurar rastreabilidade das decisões, transparência dos critérios empregados e documentação que permita verificar a adequação e os resultados das medidas implementadas.

Assim, embora o Guia faça referência à transparência dos critérios de moderação e às garantias procedimentais do art. 30 do ECA Digital, seria pertinente explicitar que mecanismos preventivos eficazes não se avaliam exclusivamente pela quantidade de conteúdos removidos ou contas sancionadas. A efetividade do dever de prevenção também depende da capacidade de identificar e corrigir erros, de oferecer meios de contestação e de preservar conteúdos e manifestações legítimas eventualmente afetados por medidas equivocadas.

• Reconhecer limitações dos sistemas automatizados:

Sugere-se acrescentar que a utilização de ferramentas automatizadas pode constituir instrumento relevante para a prevenção de riscos, mas não afasta a necessidade de se implementar mecanismos capazes de corrigir falhas decorrentes de decisões automatizadas, inclusive a revisão humana, caso seja necessário no caso concreto. Isso porque sistemas automatizados estão sujeitos a erros de contexto, dificuldades de interpretação e reprodução de vieses, circunstâncias que podem resultar na remoção indevida de conteúdos legítimos ou na aplicação desproporcional de sanções.

Desse modo, a prevenção demanda não apenas capacidade de identificar riscos, mas também capacidade institucional de detectar e corrigir falhas decorrentes das próprias medidas de mitigação adotadas, assegurando a possibilidade de revisão e recurso efetivos previstos no art. 30 do ECA Digital.

      2.2. Quanto à nitidez e compreensão dos conceitos trazidos no guia, as sugestões são:

• Detalhar melhor a expressão “atuação diligente”

A expressão “atuação diligente” tende a permanecer relativamente abstrata para o leitor. Nesse sentido, poderia ser esclarecido que atuar diligentemente significa antecipar, identificar, avaliar, mitigar e evitar riscos previsíveis, mediante a adoção de medidas adequadas e proporcionais e a demonstração da efetividade dos mecanismos implementados. Tal esclarecimento aproximaria o conceito de práticas concretas e reforça a ideia, presente ao longo do Guia, de que o cumprimento dos deveres previstos no ECA Digital exige não apenas conformidade normativa, mas também capacidade demonstrável de proteção.

• Delimitar a expressão “resposta eficaz”

A referência à necessidade de “resposta eficaz” é adequada, mas o conceito pode gerar dúvidas quanto ao seu significado prático. Seria recomendável esclarecer que a eficácia da resposta não decorre exclusivamente da rapidez ou da intensidade da medida adotada, mas também de sua adequação aos riscos identificados, da proporcionalidade das medidas empregadas e da existência de mecanismos aptos a detectar e corrigir eventuais erros.