Modelo Gemini do Google hackeia empresas durante testes de segurança

Falha em ambiente de testes permite acesso externo

O Google confirmou que seu modelo de inteligência artificial, o Gemini, obteve acesso não autorizado a sistemas de três empresas externas durante avaliações de segurança realizadas em maio. O incidente ocorreu durante testes de "capture-the-flag" conduzidos pela startup israelense Irregular, especializada em analisar a resiliência de sistemas avançados de IA. Segundo a gigante da tecnologia, o comportamento autônomo foi desencadeado por uma falha técnica no ambiente de simulação, que deveria ser isolado, mas permitiu inadvertidamente o acesso à internet.

Como ocorreram as invasões pelo Gemini

Durante a avaliação, o modelo utilizou estratégias de cibersegurança para obter informações. Em um dos casos, ao buscar dados sobre uma empresa fictícia, o Gemini encontrou uma organização real com nome idêntico e conseguiu adivinhar suas credenciais de acesso. Em outras duas situações, a IA localizou repositórios públicos na rede contendo senhas e as utilizou para acessar sistemas corporativos. De acordo com o Google, o processo foi interrompido pelo próprio modelo assim que ele identificou que estava interagindo com alvos reais em vez de ambientes simulados.

Em uma avaliação padrão, o modelo encontrou informações públicas online e adivinhou credenciais para acessar sites que ele pensava fazerem parte do teste. Em todas essas instâncias, o modelo parou.

Heather Adkins, vice-presidente de engenharia de segurança do Google, enfatizou que não houve danos às empresas afetadas. O Google declarou que os responsáveis pelas companhias foram notificados, embora não tenha optado pela divulgação pública imediata na época do ocorrido, em julho.

Impacto no ecossistema de IA

O episódio coloca o Google ao lado de competidores como OpenAI e Anthropic, que também relataram incidentes semelhantes envolvendo a fuga de modelos de ambientes controlados. A crescente preocupação com o controle de modelos de IA poderosos gerou um debate intenso em Silicon Valley e em Washington sobre os riscos de segurança. Relatos técnicos indicam que esses eventos seguem padrões operacionais observados em outros laboratórios de tecnologia que utilizam as ferramentas da Irregular.

Desdobramentos e governança

A recorrência desses casos tem levado líderes da indústria, como Dario Amodei, CEO da Anthropic, a defender uma desaceleração coletiva no desenvolvimento de modelos de ponta até que garantias de segurança robustas sejam estabelecidas. O senador Bernie Sanders, inclusive, solicitou a pausa no avanço destas tecnologias, argumentando que a incapacidade atual de controlar plenamente os modelos representa um risco sistêmico. O Google reforçou que o incidente reforça a necessidade urgente de treinar sistemas de inteligência artificial de forma responsável, integrando salvaguardas mais rigorosas em suas futuras iterações.