Sistemas de IA da OpenAI agem por conta própria e interferem em sites do governo dos EUA
Por Guilherme Levorato — Brasil 247
247 – Sistemas de inteligência artificial da OpenAI agiram de forma autônoma e interferiram, nos últimos meses, em portais de órgãos governamentais dos Estados Unidos sem o conhecimento prévio da própria empresa, informa reportagem do The New York Times.
Entre as estruturas públicas afetadas pelas ações inesperadas dos bots estão o Departamento de Educação, o Departamento de Comércio e a Comissão de Valores Mobiliários dos Estados Unidos (SEC, na sigla em inglês).
De acordo com informações confirmadas pela própria OpenAI, a empresa notificou recentemente as autoridades governamentais de que seus agentes de inteligência artificial — softwares programados para atuar de maneira autônoma — interagiram com os portais de maneiras incomuns. A companhia declarou que segue investigando especificamente o caso relacionado ao Departamento de Educação.
Segundo dados apresentados por pesquisadores da empresa de pesquisa em inteligência artificial Transluce, a tecnologia da OpenAI tentou invadir o portal do Departamento de Educação com o objetivo de extrair dados do escritório de direitos civis do órgão, mas a ação foi bloqueada e não obteve êxito.
Em outro episódio, a inteligência artificial conseguiu extrair dados do portal do Departamento de Estatísticas dos Estados Unidos (Census Bureau), órgão vinculado ao Departamento de Comércio, utilizando para isso credenciais de acesso encontradas na internet aberta. Em um caso separado, agentes da OpenAI capturaram e compartilharam dados públicos provenientes do site da SEC em um fórum online. Além das instâncias federais, um representante da prefeitura de Chicago revelou que a OpenAI informou ao município que seus sistemas também haviam coletado informações públicas em um portal municipal de forma não prevista.
Embora a OpenAI assegure que nenhum dos episódios resultou em invasão com comprometimento de dados sigilosos ou privados, os casos exemplificam um padrão de comportamento imprevisível e preocupante da tecnologia.
A descoberta desses incidentes ocorreu após uma auditoria interna promovida pela desenvolvedora para investigar invasões anteriores conduzidas por seus sistemas, como o ataque a um portal público de saúde do governo australiano ocorrido em junho e a invasão à plataforma de inteligência artificial Hugging Face em julho. A investigação interna sobre o caso da Hugging Face revelou ainda outras seis tentativas de invasão, momentos em que a IA ocultou falhas, inventou dados e transferiu arquivos para a internet sem a devida autorização.
Em nota oficial, uma porta-voz da OpenAI descreveu a revisão interna como “extensa” e garantiu que a empresa continuará notificando as organizações afetadas. “A maior parte das atividades que analisamos até agora envolvia tarefas rotineiras de pesquisa, como acessar conteúdo público na internet para responder a perguntas”, afirmou a porta-voz. “Algumas envolveram sites do governo porque nossos modelos frequentemente recorrem a eles como fontes confiáveis de informação pública”.
O presidente-executivo da OpenAI, Sam Altman, reconheceu publicamente na sexta-feira (25) que a empresa “não foi tão rápida quanto gostaria” na divulgação desses incidentes. “Estamos priorizando os casos da melhor maneira possível, com base na gravidade”, disse o executivo, reiterando que o ataque à Hugging Face permanece como o caso mais grave identificado até o momento.
Os novos desdobramentos intensificaram o debate internacional sobre a regulamentação e a segurança da inteligência artificial. Altman chegou a declarar recentemente que a segurança dos sistemas deveria ser priorizada em relação ao ganho de capacidade, sob o risco de a sociedade “perder o controle do futuro para a inteligência artificial”. Posição semelhante é defendida por Dario Amodei, presidente-executivo da rival Anthropic, que prega a desaceleração no ritmo de desenvolvimento da tecnologia. Em contrapartida, empresários como Jensen Huang, presidente-executivo da Nvidia, e políticos como o ex-presidente Donald Trump minimizam os riscos e rejeitam freios ao setor.
Conrad Stosz, responsável pela área de governança da Transluce, destacou que os agentes da OpenAI empregaram “uma série de táticas de área cinzenta”, operando de maneiras não previstas e violando políticas explícitas de uso dos portais. Stosz alertou ainda que a equipe de pesquisa identificou outras varreduras autônomas em portais federais e estaduais — incluindo a Marinha dos Estados Unidos e o Escritório de Administração e Orçamento da Casa Branca — que podem ter sido originadas por sistemas da OpenAI ou de outros laboratórios de tecnologia.
“Esses incidentes fazem parte de um padrão mais amplo em que esses agentes tentam acessar esses sites pelo menos centenas de milhares de vezes, aparentemente contornando as restrições impostas a eles por seus desenvolvedores”, concluiu Stosz.
Fonte: Brasil 247
