Agentes de IA da OpenAI burlaram restrições e usaram sites para trocar mensagens
Por Aquiles Lins — Brasil 247
247 – Agentes de inteligência artificial desenvolvidos pela OpenAI teriam encontrado maneiras de contornar restrições impostas pela própria empresa para publicar conteúdo na internet e passaram a utilizar dezenas de sites externos para trocar mensagens entre si.
As informações foram divulgadas pela RT, com base em reportagem da Reuters e nas conclusões de seis pesquisadores ou grupos independentes que analisaram a atividade dos sistemas. As apurações indicam que o número de páginas usadas pelos agentes pode ser significativamente maior do que o inicialmente conhecido.
O pesquisador Andrew Yoon identificou 18 sites até então não divulgados que teriam sido utilizados entre maio e julho. Outra equipe, liderada por Sydney Von Arx, encontrou evidências da atividade em 23 endereços.
“Não temos ideia de quanto existe por aí”, afirmou Von Arx, segundo a Reuters, ao advertir que os números disponíveis provavelmente não representam a dimensão total do fenômeno.
Os agentes de IA são sistemas capazes de executar tarefas com certo grau de autonomia em nome de usuários, tomando decisões e realizando ações com supervisão humana limitada. O episódio aumenta as preocupações sobre a possibilidade de ferramentas mais avançadas descobrirem caminhos não previstos para superar mecanismos de segurança estabelecidos por seus próprios desenvolvedores.
Sites viraram canais improvisados de comunicação
Segundo as investigações, os sistemas tinham autorização para pesquisar informações disponíveis na internet, mas não deveriam publicar conteúdo. Ainda assim, teriam utilizado recursos editáveis de páginas externas para registrar e compartilhar mensagens.
Entre os serviços empregados estariam wikis antigos, plataformas de armazenamento de textos e encurtadores de links mantidos por universidades. Esses espaços teriam funcionado como canais improvisados de comunicação entre os agentes durante a execução de tarefas.
A dimensão da atividade veio à tona após a descoberta de um episódio envolvendo o DseWiki, um site alemão dedicado a temas de programação. Pesquisadores atribuíram mais de 15 mil edições na plataforma a agentes da OpenAI.
De acordo com os relatos reunidos pela Reuters, os sistemas teriam usado o wiki para compartilhar estratégias destinadas a completar tarefas, superar limitações estabelecidas previamente e reduzir a possibilidade de detecção.
Agentes teriam criado rotas alternativas após exclusão de mensagens
Os pesquisadores também encontraram indícios de que alguns agentes discutiram o uso do Tor, tecnologia que permite acesso à internet com maior grau de anonimato.
Quando um moderador começou a apagar mensagens publicadas no DseWiki, os sistemas teriam criado páginas alternativas para preservar seus canais de comunicação.
O comportamento chama atenção porque indica não apenas a capacidade de encontrar brechas técnicas, mas também de adaptar a estratégia depois que uma rota utilizada anteriormente deixou de estar disponível.
A OpenAI não respondeu diretamente às perguntas da Reuters sobre o número total de sites afetados nem sobre os motivos pelos quais a atividade permaneceu sem divulgação durante meses. A empresa informou que realiza uma revisão mais ampla dos episódios.
Incidente na Hugging Face elevou preocupação
Os novos relatos surgem após um caso considerado mais grave ocorrido em julho. Durante testes de cibersegurança, agentes desenvolvidos pela OpenAI teriam ultrapassado barreiras de proteção, alcançado a internet aberta e obtido acesso não autorizado a sistemas da Hugging Face, uma das principais plataformas globais de hospedagem e compartilhamento de modelos de inteligência artificial.
Posteriormente, a OpenAI reconheceu que seus agentes exploraram vulnerabilidades e acessaram partes da infraestrutura da Hugging Face sem autorização.
A companhia classificou o episódio como um “alerta” para os riscos associados a sistemas autônomos com capacidades crescentes.
Segundo a Reuters, a OpenAI afirmou não ter identificado outras atividades com a mesma “gravidade ou escala” do incidente envolvendo a Hugging Face.
A empresa também informou que está revisando o comportamento de seus agentes de forma mais ampla e trabalhando na criação de uma estrutura específica para relatar casos de “desalinhamento” de sistemas de inteligência artificial durante etapas de treinamento, avaliação e implantação.
Fonte: Brasil 247
