Gemini, IA do Google, invade três empresas durante testes de segurança
Modelo interrompeu o ataque autônomo quando percebeu que havia extrapolado as simulações. Caso foi revelado pela imprensa nesta sexta (18).
O Google confirmou que seu modelo de inteligência artificial, o Gemini, acessou a internet durante testes de segurança cibernética e invadiu três empresas de forma autônoma. O incidente aconteceu em maio e permaneceu em sigilo até ser revelado na última sexta (18) pelo Wall Street Journal.
O caso aconteceu enquanto a Irregular, empresa israelense de segurança em IA, fazia uma série de testes em um ambiente digital protegido com uma versão do Gemini que não foi especificada. A tarefa do modelo era obter dados de empresas fictícias – e ele não deveria ter recebido acesso à internet.
A Irregular também presta serviços para outras grandes empresas de inteligência artificial e esteve no centro de outros ataques cibernéticos recentes, como a invasão da plataforma de IA Hugging Face por dois modelos não lançados da OpenAI.
Durante os últimos testes do Gemini, as empresas-alvo (e fictícias) da tarefa tinham o mesmo nome de empresas reais. Em uma ocasião, o modelo adivinhou as senhas e invadiu os sistemas da companhia em questão. Em outras duas ocasiões, o modelo encontrou as credenciais necessárias em repositórios públicos.
Os três incidentes aconteceram após o modelo ganhar acesso à internet. Segundo o Google, o modelo interrompeu suas ações no momento em que percebeu que havia invadido empresas reais, extrapolando a simulação.
A empresa ainda afirmou que não divulgou os incidentes porque suas medidas de segurança funcionaram, ao contrário do que aconteceu em outros episódios semelhantes, com outras empresas do setor.
“Todos os laboratórios relevantes foram notificados no fim de julho, e as entidades afetadas foram contatadas durante a investigação”, disse a Irregular em comunicado. “Todos os problemas conhecidos por nós foram corrigidos e solucionados semanas atrás.”
Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que os testes eram uma “avaliação padrão” e que “esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”.





