Plataforma relata que live ficou no ar por quase duas horas após sistemas automatizados falharem na detecção de conteúdo violento
O Discord admitiu formalmente que seus sistemas automatizados de proteção falharam e demoraram cerca de duas horas para derrubar uma transmissão ao vivo que culminou na morte de uma menina de 13 anos no Mato Grosso do Sul. As informações constam em um relatório detalhado entregue pela própria empresa de tecnologia ao Ministério da Justiça e Segurança Pública, informa o G1.
Em desdobramento direto do caso, a Agência Nacional de Proteção de Dados (ANPD) determinou na quarta-feira (12) a suspensão preventiva de todas as transmissões ao vivo da rede social em território nacional. A ordem regulatória atinge de forma exclusiva a ferramenta de lives, mantendo os demais serviços de troca de mensagens e áudio em funcionamento no Brasil. A ANPD, autarquia vinculada ao Ministério da Justiça, atua na fiscalização e proteção de dados pessoais e na garantia dos direitos digitais no país.
De acordo com o cronograma detalhado no documento apresentado pela plataforma, a transmissão teve início às 2h20 da manhã do dia 22 de julho. A primeira notificação interna de risco iminente de morte ou lesão corporal grave só foi emitida pelo sistema às 3h50, e a derrubada efetiva do servidor do ar ocorreu apenas às 4h15 — totalizando quase duas horas de exibição contínua.
A empresa justificou a demora alegando que o canal responsável por hospedar o vídeo não apresentou, nos momentos iniciais, indicadores técnicos de “atividade violadora”. O sistema de intervenção automática da rede social é programado para agir apenas quando uma transmissão atinge a pontuação de 0,95 em uma escala interna de risco. Na medição inicial, a live em questão foi classificada com apenas 0,12 ponto.
O Discord alegou que os criadores do servidor utilizaram nomes e comunicações em texto modificados para “mascarar” a real intenção do grupo e enganar os algoritmos de triagem. A empresa ressaltou ainda que alterar os parâmetros para tornar os alertas mais sensíveis pode prejudicar o funcionamento dos filtros automatizados.
“Reduzir o limiar de detecção aplicável aumentaria materialmente os falsos positivos e poderia comprometer a eficácia da intervenção proativa automatizada. Esse resultado está sendo reexaminado, inclusive para avaliar possíveis aprimoramentos nos critérios de priorização”, argumentou a empresa no relatório enviado às autoridades brasileiras.
Popular entre jogadores de jogos eletrônicos e o público adolescente, o Discord vem enfrentando severas críticas e investigações do Poder Público devido a fragilidades recorrentes na moderação de conteúdo sensível e na verificação de idade de seus usuários.
Suspensão inédita com base no ECA Digital
A determinação da ANPD de bloquear a funcionalidade de transmissões ao vivo foi aplicada como medida preventiva, estabelecendo um prazo de três dias úteis para o cumprimento integral por parte da empresa. Trata-se de uma sanção inédita no país com fundamentação no Estatuto da Criança e do Adolescente na esfera digital (ECA Digital).
Conforme a agência reguladora, o bloqueio do recurso permanecerá em vigor até que a empresa comprove a implementação de ferramentas eficazes de salvaguarda para crianças e adolescentes. Fontes técnicas da ANPD indicam que a plataforma já vinha sendo monitorada desde o ano passado devido ao acúmulo de irregularidades.
“Não é só um caso isolado [o que ocorreu no Mato Grosso do Sul]. São reiterados casos similares de crianças e adolescentes que, por meio da funcionalidade da live, são induzidos à automutilação e ao suicídio”, declarou um integrante da ANPD, sob condição de reserva.
A punição ocorreu no dia seguinte ao anúncio feito pela Advocacia-Geral da União (AGU) sobre o recebimento de uma proposta do Discord com medidas voluntárias para reforçar a proteção dos usuários. O documento havia sido entregue na segunda-feira (10), após sucessivas reuniões entre executivos da empresa, membros da AGU, do Ministério da Justiça e da ANPD.
Posição oficial do Discord
Em posicionamento público, a direção do Discord classificou a medida cautelar da ANPD como “prematura” e afirmou que mantém diálogo permanente com os órgãos reguladores no âmbito do processo administrativo instaurado para apurar falhas sistêmicas na rede.
“A caracterização do Discord feita pela ANPD não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários”, defendeu a empresa em nota.
A companhia argumentou ainda que a conduta ilícita teve origem externa à sua estrutura. “Nossa investigação encontrou evidências de que a atividade criminosa foi coordenada em outras plataformas antes da criação do servidor no Discord e continuou nessas plataformas após os indivíduos envolvidos terem sido banidos”, declarou a empresa, reiterando que dispõe de equipe especializada dedicada a combater conteúdos violentos e que busca manter interlocução com os formuladores de políticas públicas no Brasil para aprimorar a segurança digital.
