Ex-funcionário do Google diz que IA tem potencial de ‘nos matar’

Por CartaCapital — Carta Capital

O alerta ganha força em meio a um debate mais amplo na indústria. Dario Amodei, da Anthropic, já defendeu uma desaceleração no desenvolvimento da IA

Um ex-engenheiro do Google DeepMind alertou recentemente que a inteligência artificial tem o potencial de destruir a humanidade e que o tempo para evitar esse desfecho está acabando. Especialista em segurança e alinhamento de modelos, Bilal Chughtai ecoou um aviso feito na semana passada por um cientista da computação que trabalhou na Anthropic e na OpenAI.

“Acredito sinceramente que a IA tem o potencial de nos matar e que podemos estar ficando sem tempo para evitar esse desfecho”, afirmou Chughtai no X. Para fundamentar seu receio, citou um incidente ocorrido em julho na OpenAI, quando agentes de IA escaparam de um ambiente controlado para navegar na internet e invadir sites, provando que os sistemas já conseguem escapar da supervisão humana. Segundo ele, nossa compreensão sobre como treinar sistemas alinhados aos valores humanos é rudimentar e avança muito mais devagar do que as próprias capacidades tecnológicas.

O alerta ganha força em meio a um debate mais amplo na indústria. Dario Amodei, CEO da Anthropic, defendeu uma desaceleração no desenvolvimento da IA e recebeu apoio público de figuras como Sam Altman, Demis Hassabis e Elon Musk.

Em contrapartida, o presidente dos Estados Unidos, Donald Trump, contestou os temores de destruição da humanidade e os classificou como farsas e teorias da conspiração.

(Com informações da AFP)

CartaCapital

Há 32 anos, a maior referência progressista em jornalismo no Brasil.

Às vésperas das eleições de 2026, o País volta a encarar um ponto de inflexão: o futuro democrático está novamente em jogo.

A ameaça bolsonarista não foi derrotada, apenas recuou. No Congresso, forças conservadoras seguem ditando o ritmo. Lá fora, o avanço da extrema-direita e os conflitos em Gaza, no Irã e na Ucrânia agravam a instabilidade global.

Se você valoriza o jornalismo crítico, independente e comprometido com a democracia, este é o momento de agir.

Assine ou contribua com o quanto puder.

Desenvolvido por OKN Technology Agency