Gemini acessa sistemas de três empresas durante teste de cibersegurança
Por Aquiles Lins — Brasil 247
247 – O modelo de inteligência artificial Gemini, do Google, conseguiu acessar sistemas protegidos de três empresas durante uma avaliação de cibersegurança realizada em maio, em um episódio considerado o primeiro caso conhecido em que uma IA da companhia realizou esse tipo de ação de maneira autônoma.
As informações foram divulgadas pela Reuters, com base em declarações do Google e em reportagem publicada inicialmente pelo Wall Street Journal. O teste foi conduzido pela Irregular, empresa independente especializada em avaliações de segurança de sistemas de inteligência artificial.
Durante uma avaliação considerada padrão, o Gemini pesquisou informações disponíveis publicamente na internet e tentou obter acesso a três sites que interpretou como integrantes do escopo autorizado do teste.
Em um dos episódios, o modelo tentou sucessivamente adivinhar senhas até conseguir entrar em um sistema protegido. Nos outros dois casos, encontrou credenciais armazenadas em um repositório público e utilizou esses dados para acessar ambientes restritos, segundo o Wall Street Journal.
Google diz que empresas afetadas foram notificadas
Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que as três organizações envolvidas foram avisadas depois que a situação foi identificada.
“Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste”, declarou Adkins.
Segundo a executiva, o episódio demonstra a necessidade de ampliar os mecanismos de controle aplicados a sistemas de inteligência artificial com capacidade para executar tarefas sem supervisão constante.
“Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”, acrescentou.
De acordo com Adkins, o Gemini interrompeu as tentativas de invasão nos três episódios.
Irregular afirma ter corrigido problemas
A Irregular informou que o incidente está relacionado ao mesmo tipo de problema identificado em avaliações envolvendo outros grandes laboratórios de inteligência artificial.
Um porta-voz da empresa afirmou que todas as organizações relevantes foram notificadas no fim de julho.
“Todos os problemas conhecidos da nossa parte foram corrigidos e resolvidos há semanas”, declarou.
Casos semelhantes associados a testes conduzidos pela Irregular também foram revelados por Meta, Anthropic e OpenAI.
A Meta afirmou em agosto que o episódio envolvendo seus sistemas não representou uma fuga de ambiente isolado, conhecido como sandbox, nem um ataque cibernético sofisticado.
A própria Irregular declarou estar trabalhando na definição de práticas mais seguras para avaliações destinadas a medir capacidades ofensivas e defensivas de modelos de inteligência artificial.
Autonomia de agentes de IA aumenta preocupação
O episódio envolvendo o Gemini reforça o debate sobre os riscos associados ao avanço dos chamados agentes de IA, sistemas capazes de navegar pela internet, operar ferramentas e executar sequências de tarefas com grau crescente de autonomia.
Em avaliações de cibersegurança, essa capacidade pode permitir que um modelo identifique vulnerabilidades, procure credenciais expostas ou tente diferentes combinações de acesso sem precisar receber instruções humanas para cada etapa.
O desafio para empresas e laboratórios passa a ser estabelecer limites capazes de impedir que esses sistemas extrapolem o ambiente previsto pelos testes ou interpretem equivocadamente quais infraestruturas estão autorizados a acessar.
O caso também evidencia um problema adicional: informações sensíveis deixadas em repositórios públicos podem ser encontradas e exploradas automaticamente por modelos que tenham acesso à internet e ferramentas de navegação.
Fonte: Brasil 247
