IA da Anthropic envia denúncia falsa de homicídio à polícia da Filadélfia durante um teste

Por Luis Mauro Filho — Brasil 247

247 – Um agente de inteligência artificial desenvolvido pela Anthropic enviou uma denúncia falsa sobre um homicídio não solucionado à polícia da Filadélfia, nos Estados Unidos, durante um teste automatizado realizado em 18 de julho. A mensagem foi identificada como spam e não provocou a abertura de uma investigação, mas a empresa levou mais de dois meses para detectar o problema e comunicar as autoridades.

De acordo com informações da BBC News Brasil, a ferramenta de IA interagia com sites selecionados aleatoriamente quando acessou uma plataforma pública destinada ao recebimento de informações sobre assassinatos ainda não esclarecidos. O sistema apresentou uma suposta pista sobre um dos crimes, afirmando ter visto “alguém que correspondia à descrição”.

A denúncia foi produzida artificialmente, sem que existisse uma testemunha real por trás da informação. Segundo a polícia, a mensagem não passou pelos mecanismos de segurança do departamento, que a classificaram como spam antes que pudesse ser encaminhada para análise.

A Anthropic identificou a ocorrência em 28 de setembro, mais de dois meses depois do envio da denúncia. A empresa desativou o processo de testes automatizados responsável pelo episódio, mas a polícia da Filadélfia só recebeu uma comunicação formal sobre o incidente em 7 de outubro, nove dias depois da descoberta.

O intervalo entre a ocorrência e a notificação provocou críticas das autoridades locais, que consideraram insuficientes os mecanismos de supervisão e identificação de falhas utilizados pela companhia.

“A empresa deve reforçar suas medidas de segurança para evitar que incidentes semelhantes afetem os sistemas da cidade sem o conhecimento da prefeitura”, afirmou o Departamento de Polícia da Filadélfia, em comunicado reproduzido pela BBC.

A corporação também criticou diretamente o tempo necessário para que a irregularidade fosse identificada e comunicada.

“O atraso de dois meses na detecção e comunicação do incidente à prefeitura é inaceitável.”

As autoridades informaram que não foram encontrados sinais de acesso indevido ou comprometimento dos sistemas policiais. A denúncia falsa permaneceu retida na pasta de spam e não interferiu nas investigações de homicídios conduzidas pelo departamento.

Apesar disso, a polícia considera grave que uma ferramenta automatizada tenha apresentado informações inventadas como se fossem fornecidas por uma pessoa com conhecimento de um crime.

Segundo a corporação, os mecanismos de proteção que impediram o processamento da mensagem “não diminuem a gravidade de um sistema de IA apresentar informações falsas como se tivessem vindo de uma pessoa com conhecimento de um homicídio”.

Outros incidentes envolvendo agentes de inteligência artificial

O episódio ocorreu em um período de divulgação de falhas relacionadas ao funcionamento de agentes de inteligência artificial capazes de executar tarefas e interagir com plataformas digitais.

A Anthropic publicou nesta semana um relatório sobre comportamentos classificados como “não intencionais” de seus sistemas automatizados. Entre as organizações afetadas pelas ações descritas estão instituições do governo dos Estados Unidos, incluindo a Casa Branca.

Um dos casos mencionados envolve o Departamento de Estado americano. Segundo os relatos, um agente de IA preencheu 20 solicitações de visto por meio de um formulário disponibilizado no site da instituição.

Os pedidos estavam incompletos e não chegaram a ser processados, o que impediu que a ação automatizada avançasse nos procedimentos administrativos.

Os registros mostram que os problemas não se limitaram à divulgação de informações incorretas. As ferramentas também realizaram interações com serviços públicos sem que essas ações correspondessem aos objetivos esperados dos testes.

A situação envolve sistemas conhecidos como agentes de IA, que podem executar sequências de tarefas, acessar páginas e preencher formulários com determinado grau de autonomia. Esse funcionamento amplia as possibilidades de utilização da tecnologia, mas também cria riscos quando os mecanismos de controle não impedem ações imprevistas.

Casos semelhantes atingiram sistemas de outros países

Outras empresas do setor também registraram episódios envolvendo comportamentos inesperados de agentes automatizados.

Um sistema desenvolvido pela OpenAI acessou indevidamente um site do governo australiano e obteve informações privadas relacionadas ao Medicare, o sistema público de saúde do país, conforme os casos relatados pela BBC.

Em outra ocorrência, mais de 1,2 mil agentes de IA da OpenAI passaram a se comunicar de maneira inesperada. Um grupo formado por esses sistemas tentou invadir a plataforma de inteligência artificial Hugging Face.

Os episódios envolvem comportamentos distintos, mas apresentam uma característica comum: ferramentas automatizadas realizaram ações que ultrapassaram o funcionamento previsto para suas respectivas atividades.

Nos Estados Unidos, o presidente Donald Trump anunciou recentemente a criação de uma força-tarefa voltada à inteligência artificial. Segundo o governo americano, a iniciativa deverá coordenar discussões entre autoridades públicas, empresas de tecnologia, consumidores e representantes de grupos religiosos.

No caso da Filadélfia, a Anthropic interrompeu o procedimento de teste associado à denúncia falsa. A polícia informou que seus sistemas permaneceram protegidos e que nenhuma investigação foi iniciada com base na mensagem enviada pela inteligência artificial.

Fonte: Brasil 247