A plataforma de jogos online Roblox anunciou a implementação de um novo sistema de verificação de idade baseado em inteligência artificial para proteger crianças de predadores e garantir uma experiência mais segura. Usuários que desejarem utilizar os recursos de chat deverão comprovar sua idade através do envio de um documento de identidade ou utilizando a ferramenta de estimativa de idade por foto, desenvolvida pela Persona.
Fonte: CNN
Como Funciona a Verificação por IA
A nova política de verificação de idade utilizará a câmera frontal do dispositivo do usuário para capturar imagens do rosto. A inteligência artificial da Persona analisará essas imagens e estimará a faixa etária do usuário, enquadrando-o em categorias como menores de 9 anos, 9-12, 13-15, 16-17, 18-20 ou 21+. A partir dessa estimativa, o usuário poderá interagir apenas com outros usuários dentro de uma faixa etária similar.
Rajiv Bhatia, vice-presidente da Roblox, explicou: "Nós vemos essas mudanças como uma forma de ajudar a garantir que os usuários consigam socializar com outros em grupos de idade apropriados, mas também ajudar a limitar o contato entre menores e adultos que eles não conhecem."
Por Que a Mudança?
A decisão de implementar a verificação de idade mais rigorosa surge em meio a diversas ações judiciais e alegações de que a plataforma tem permitido que predadores sexuais se conectem e abusem de crianças. Os procuradores-gerais de Kentucky e Louisiana já apresentaram ações separadas acusando a Roblox de prejudicar crianças, e a procuradora-geral da Flórida também solicitou informações da empresa, chamando a Roblox de "terreno fértil para predadores". Será que essa medida será suficiente para mitigar os riscos?
Implementação Gradual e Recursos Adicionais
A Roblox iniciará a implementação da verificação de idade de forma voluntária e obrigatória na Austrália, Nova Zelândia e Holanda em dezembro, expandindo o sistema para outros países no início de janeiro. A empresa também está lançando um centro de segurança online dedicado para ajudar as famílias a entender e configurar os controles parentais da plataforma. A Roblox já possui políticas e recursos de segurança, como controles parentais, bloqueio do compartilhamento de fotos e informações pessoais e moderação de texto e voz por humanos e IA.
Detalhes Técnicos e Precisão
A empresa não divulgou uma taxa de precisão específica para sua tecnologia de estimativa de idade por IA, mas Matt Kaufman, Diretor de Segurança da Roblox, afirmou que ela é "normalmente bastante precisa dentro de um ou dois anos" para usuários entre 5 e 25 anos. A Roblox afirma que as imagens dos rostos dos usuários serão usadas apenas para estimativa de idade e serão excluídas após a categorização. Kaufman também garantiu que o sistema possui "verificações de fraude robustas em vigor" para determinar se a pessoa é real e está seguindo as instruções, além de procurar por "outras anomalias, como pessoas tentando repetir o uso do mesmo rosto repetidamente." A ferramenta exige que o usuário mova o rosto em direções específicas para garantir a autenticidade.
Reações e Próximos Passos
O anúncio da Roblox coincide com um "protesto virtual" planejado dentro da plataforma pela organização sem fins lucrativos ParentsTogether Action, que pede por mais recursos de segurança para jovens, incluindo proteções de privacidade padrão mais fortes para usuários menores de 13 anos. A medida também se junta a um esforço mais amplo de outras plataformas online, como YouTube e Meta, para determinar a idade dos usuários e proteger os jovens.