Alto executivo da Anthropic renuncia e diz que Inteligência Artificial pode acabar com a humanidade

Por Leonardo Lucena — Brasil 247

247 – O executivo Jacob Coxon, 27 anos, deixou a Anthropic após concluir que a corrida das grandes empresas de Inteligência Artificial por sistemas cada vez mais avançados pode criar uma ameaça à própria sobrevivência humana.

Em publicação na rede social X, o pesquisador afirmou que a Anthropic e a OpenAI avançam em direção a uma superinteligência capaz de aperfeiçoar a si mesma sem adotarem, na avaliação dele, medidas compatíveis com os riscos envolvidos.

Coxon anunciou sua saída na terça-feira (8) depois de trabalhar durante três anos com pesquisa de pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic. 

“Eu me demiti da Anthropic hoje. Passei os últimos três anos fazendo pesquisa de pré-treinamento tanto na OpenAI quanto na Anthropic. Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente para uma superinteligência autoaperfeiçoável e apostando com nossas vidas”, disse. 

O alerta central de Coxon mira a possibilidade de laboratórios criarem sistemas que superem capacidades humanas em áreas estratégicas e depois adquiram condições para melhorar o próprio desempenho de maneira acelerada. Para ele, esse processo pode avançar antes que pesquisadores compreendam como controlar os modelos ou garantir que seus objetivos permaneçam compatíveis com interesses humanos.

“Não subestime o poder desta tecnologia. Estes logo serão sistemas sobre-humanos que podem hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e adquirir poder e recursos reais. Todos nós testemunhamos o progresso em cada um desses domínios, e o progresso não está desacelerando”, afirmou.

Coxon também disse que profissionais envolvidos diretamente no desenvolvimento de Inteligência Artificial discutem internamente cenários extremos. Segundo ele, parte desses pesquisadores considera possível que sistemas futuros provoquem consequências fatais em escala global ainda nesta década.

“As pessoas que constroem IA acreditam sinceramente que ela poderia nos matar a todos até o final da década. Isso não é uma jogada de marketing. Se algo assim, muitos executivos e pesquisadores seniores vão suavizar suas declarações na imprensa para soar sensatos — mas eu ouço as mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana representa esse nível de perigo”, escreveu.

Coxon aponta diferenças entre OpenAI e Anthropic

Ao explicar por que as empresas continuam desenvolvendo modelos apesar dos riscos que atribui à tecnologia, Coxon apresentou avaliações diferentes sobre a cultura interna da OpenAI e da Anthropic.

Na visão dele, parte dos profissionais da OpenAI ainda não incorporou plenamente a dimensão dos riscos que sistemas avançados podem representar. Já na Anthropic, afirmou, pesquisadores reconhecem melhor esses perigos, mas consideram que precisam permanecer na disputa para impedir que concorrentes menos cautelosos assumam a liderança.

“Uma resposta comum é ‘se eles realmente acreditam nisso, por que ainda estão construindo?’ Na OpenAI, muitos não internalizaram profundamente os riscos civilizacionais. Na Anthropic, os riscos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro — acreditam que ninguém mais agirá de forma responsável, então devem fazer isso eles mesmos, apesar do risco.”

A avaliação expõe um dilema que ganhou espaço entre pesquisadores de segurança de IA: uma empresa pode considerar perigoso acelerar o desenvolvimento de modelos e, ao mesmo tempo, avaliar que reduzir o ritmo deixaria concorrentes em posição de vantagem.

A Anthropic surgiu em 2021 a partir de ex-integrantes da OpenAI e construiu parte de sua identidade pública em torno da segurança no desenvolvimento de Inteligência Artificial. A saída de Coxon ganha peso nesse contexto porque parte diretamente de um pesquisador que trabalhou nas duas empresas e acompanhou etapas de treinamento dos modelos.

Pesquisador critica decisões concentradas em empresas privadas

Coxon também questionou o poder que empresas privadas exercem sobre decisões que, na avaliação dele, podem produzir consequências globais. Ele criticou a possibilidade de laboratórios definirem sozinhos até onde devem levar pesquisas voltadas à superinteligência.

“Aceitar esta corrida e entrar no ‘fim de jogo’ é uma aposta hubrista que não deveria ser lançada do Slack de uma empresa privada. Tentar acelerar o alinhamento deveria exigir uma confiança extraordinária de que não há trajetórias melhores disponíveis.”

No campo da Inteligência Artificial, pesquisadores usam o termo “alinhamento” para descrever esforços destinados a fazer sistemas avançados perseguirem objetivos compatíveis com valores, instruções e interesses humanos. O problema ganha maior dimensão quando especialistas discutem máquinas capazes de superar humanos em grande número de tarefas e modificar seus próprios métodos de funcionamento.

Coxon questiona a possibilidade de laboratórios avançarem para sistemas desse nível antes de desenvolverem métodos capazes de explicar de forma rigorosa como esses modelos tomam decisões.

Renúncia amplia debate sobre ritmo da corrida pela IA

Apesar das críticas, Coxon afirmou que ainda considera possível estabelecer algum nível de coordenação entre empresas e governos. Ele defendeu medidas capazes de reduzir a velocidade da disputa antes que laboratórios alcancem modelos que consigam melhorar a si próprios.

“Estou otimista quanto ao potencial para coordenação. Avisos como o ataque ao Hugging Face tornaram acordos de ritmo entre laboratórios dos EUA mais viáveis. Não sinto que estamos no caminho certo para evitar uma corrida global, o que pode exigir ações custosas, como uma proibição temporária de melhorias nas capacidades de modelos.”

A declaração coloca em debate uma medida que provocaria efeitos diretos sobre o setor: uma pausa temporária no avanço da capacidade dos modelos. Coxon não apresentou, no texto fornecido, detalhes sobre duração, mecanismo jurídico ou critérios técnicos para eventual proibição.

O pesquisador também direcionou uma mensagem a profissionais que permanecem nos grandes laboratórios de Inteligência Artificial. Ele pediu que avaliem as consequências dos projetos nos quais trabalham em vez de aceitarem a corrida tecnológica como inevitável.

“Se você é um pesquisador de laboratório, eu o insto a considerar como os próximos anos realmente se sentirão. Você quer iniciar uma execução de RL superinteligente sem uma compreensão rigorosa de sua mente? Você deve baixar a cabeça porque ‘está acontecendo de qualquer maneira’ — ou aproveitar este momento para clamar por condições diferentes?”.

Fonte: Brasil 247