A suspensão das transmissões ao vivo do Discord vai além do bloqueio de uma funcionalidade. A decisão da ANPD coloca o desenho do produto no centro do debate sobre a responsabilidade das plataformas digitais. Além da remoção de conteúdo ilícito, passam a importar as escolhas técnicas que definem como ele circula, como os usuários interagem e com que rapidez a plataforma consegue intervir.
Durante anos, empresas de tecnologia organizaram sua resposta jurídica em torno de uma pergunta relativamente conhecida: ”a plataforma foi avisada e agiu para remover o conteúdo?”. Essa lógica não desapareceu, mas agir depois do dano já não é mais suficiente. Os deveres de cuidado e prevenção previstos no ECA Digital reforçam que pode existir responsabilidade sobre a concepção e a operação das funcionalidades.
A diferença é grande. Agora, a ANPD pode examinar não apenas o conteúdo que circulou, mas as condições técnicas que facilitaram sua circulação na rede, ou que dificultaram uma resposta. O holofote se vira para as configurações padrão (“de fábrica”), as formas de interação e os protocolos de segurança.
Na prática, uma plataforma, ou desenvolvedora de um jogo, pode não ser responsabilizada judicialmente por um episódio isolado e, ainda assim, ter de demonstrar à ANPD que gerenciou adequadamente os riscos criados por suas próprias funcionalidades. No caso Discord, por exemplo, a autoridade questiona se comunicações privadas, transmissões audiovisuais e servidores fechados contavam com medidas suficientes para detectar e mitigar situações críticas em tempo útil. É uma mudança importante para um setor acostumado a tratar segurança como política interna, e não como característica juridicamente auditável do produto.
Esse raciocínio não vale apenas para o Discord ou grandes redes sociais. Aplicativos, games e outros produtos digitais com presença provável de crianças e adolescentes também estão sujeitos a essa nova realidade, especialmente quando há algum tipo de interação social ou circulação de conteúdo entre usuários. Plataformas infalíveis não existem, nem seria razoável exigir que existissem. Apesar disso, o movimento da ANPD deixar claro que fornecedores terão que comprovar diligência e lastro jurídico para decisões de arquitetura e produto. Políticas internas, canais de denúncia e classificadores de risco não valerão apenas pelo que prometem, mas pelo desempenho que conseguem demonstrar.