A Agência Nacional de Proteção de Dados (ANPD) determinou nesta quarta-feira (12) a suspensão da função GoLive do Discord, ferramenta que permite o compartilhamento de tela em tempo real entre usuários. A plataforma possui um prazo de três dias úteis para cumprir a medida. A decisão ocorre no contexto de uma investigação sobre a morte de uma adolescente de 13 anos em Naviraí (MS), que teria sido induzida à automutilação por um grupo que operava na rede. Autoridades apontam falhas graves na moderação de conteúdos danosos a menores.
Fonte: CNN Brasil
Desafios na detecção e precedentes regulatórios
O Discord admitiu em documento oficial enviado ao governo federal que havia indícios de risco no servidor onde a tragédia ocorreu, mas afirmou que o sistema automatizado, que utiliza inteligência artificial, não gerou um alerta com nível de confiança suficiente para intervenção imediata. A empresa explicou que a transmissão em questão obteve pontuação de risco 0,12, enquanto o limite para detecção automática é 0,95.
Os sistemas de aprendizado de máquina processaram os sinais disponíveis, mas não geraram alerta com nível de confiança suficiente para aplicação automatizada.
Especialistas em direito digital alertam que a medida da ANPD ao citar a criptografia de ponta a ponta como um desafio à moderação abre um precedente preocupante. Carlos Affonso Souza, do ITS, questiona se o bloqueio de uma funcionalidade central é a melhor solução, considerando que a tecnologia protege a privacidade de milhões de usuários lícitos.
Medidas de segurança e o papel da família
- Uso da Central de Família para supervisão parental via QR Code.
- Ativação do filtro 'Mantenha-me Seguro' para varredura de imagens.
- Desativação de mensagens diretas enviadas por desconhecidos.
A empresa, por sua vez, classificou a decisão como prematura e ressaltou que a atividade criminosa identificada teria raízes em outras plataformas. Será que a restrição de ferramentas tecnológicas é, de fato, a estratégia mais eficaz contra o cibercrime? O embate entre a necessidade de proteção infantil e a preservação da privacidade digital continua a ser o centro do debate regulatório no Brasil, com a aplicação rigorosa do ECA Digital ganhando força nas políticas públicas de segurança da rede.