Ex-pesquisador de OpenAI e Anthropic abandona setor e alerta: “IA pode matar a todos nós”
Por João Paulo Alexandre — Jornal Opção
Um pesquisador britânico que trabalhou no desenvolvimento de sistemas de inteligência artificial (IA) da OpenAI e da Anthropic decidiu deixar o setor após manifestar preocupação com os rumos da corrida por modelos cada vez mais avançados. Jacob Coxon, de 27 anos, acusa as empresas de avançarem em direção a uma tecnologia capaz de superar a inteligência humana sem garantias suficientes de segurança. As informações são da Deutsche Welle (DW), em reportagem publicada pelo g1.
Coxon trabalhou durante os últimos três anos no pré-treinamento de modelos de inteligência artificial, etapa em que os sistemas são alimentados com grandes quantidades de dados. Inicialmente, atuou na OpenAI, responsável pelo ChatGPT, e posteriormente migrou para a Anthropic, companhia que, segundo ele, considerava mais cuidadosa em relação aos riscos da tecnologia.
Ao anunciar a decisão de abandonar a área, o pesquisador fez um alerta sobre a possibilidade de sistemas avançados de IA escaparem do controle humano.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década. Isso não é uma jogada de marketing”, escreveu Coxon em publicação no X.
Em entrevista ao The Wall Street Journal, Coxon afirmou que, nas projeções mais extremas, problemas relacionados ao controle desses sistemas poderiam surgir já no fim do próximo ano. Uma das preocupações apontadas por ele é o chamado autoaperfeiçoamento, cenário em que sistemas de IA passariam a contribuir para o desenvolvimento de versões ainda mais avançadas da própria tecnologia.
“Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, declarou.
Executivo da Anthropic também alerta para riscos
As declarações receberam apoio de Evan Hubinger, executivo da área de segurança da Anthropic. Ele afirmou que pesquisadores do setor consideram seriamente a possibilidade de sistemas avançados de inteligência artificial representarem uma ameaça à humanidade.
“Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”, declarou Hubinger.
Segundo o executivo, a probabilidade de um cenário desse tipo ocorrer na próxima década seria superior a 10%. Apesar disso, ele ponderou que o risco associado aos modelos disponíveis atualmente é considerado baixo.
Hubinger também reconheceu que a Anthropic ainda não dispõe de um método capaz de assegurar que uma inteligência artificial superior às capacidades humanas permaneceria obediente aos comandos de seus desenvolvedores.
Coxon, por sua vez, afirmou reconhecer os esforços da antiga empregadora para tornar a tecnologia mais segura. O problema, segundo ele, está na competição entre as empresas para alcançar primeiro sistemas de inteligência artificial mais poderosos.
“Na Anthropic, os riscos envolvidos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro; acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos”, afirmou.
Corrida pela superinteligência
A discussão ocorre em meio ao avanço das pesquisas sobre o chamado autoaperfeiçoamento recursivo. O conceito descreve um estágio hipotético no qual sistemas de inteligência artificial poderiam participar do desenvolvimento e treinamento de novas gerações de IA com pouca interferência humana.
Coxon avalia que empresas privadas, isoladamente, não conseguiriam conduzir de maneira segura o desenvolvimento de uma inteligência artificial superior à humana. Para ele, seria necessária uma atuação dos governos ou um acordo entre as principais companhias para desacelerar conjuntamente os projetos mais avançados.
A própria Anthropic já modificou compromissos relacionados ao tema. Em fevereiro, a companhia retirou de sua política de segurança a previsão de interromper o avanço dos modelos caso não conseguisse controlar adequadamente os riscos. A justificativa apresentada foi que uma paralisação unilateral poderia abrir espaço para concorrentes menos cautelosos assumirem a liderança tecnológica.
No fim de julho, mais de mil profissionais ligados ao setor de tecnologia, entre eles o CEO da Anthropic, Dario Amodei, defenderam que autoridades dos Estados Unidos apoiassem uma desaceleração coordenada no desenvolvimento dos sistemas mais avançados.
A OpenAI também adotou medidas adicionais de segurança. Em agosto, a companhia interrompeu durante duas semanas o treinamento de seus modelos mais recentes e posteriormente retomou os trabalhos sob controles mais rigorosos.
O cientista-chefe da OpenAI, Jakub Pachocki, também defendeu maior cautela diante dos avanços da tecnologia.
“A coordenação internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade máxima para governos de todo o mundo”, afirmou.
Pressão por regulamentação
O debate sobre os riscos da inteligência artificial também chegou ao Congresso dos Estados Unidos. O país ainda não possui uma legislação federal abrangente para regulamentar os modelos de IA.
Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram uma proposta para interromper temporariamente o desenvolvimento de sistemas de inteligência artificial até que seja criado um órgão federal responsável pela regulamentação da tecnologia.
Para Coxon, medidas externas ao setor serão necessárias para reduzir os riscos. A avaliação do ex-pesquisador é que, enquanto as principais empresas permanecerem em uma disputa pela liderança, nenhuma delas terá incentivos suficientes para desacelerar sozinha o desenvolvimento de sistemas potencialmente mais poderosos do que os atuais.
Leia também: Fachin assume caso Moraes-Vorcaro e paralisa processos do Banco Master e fraudes do INSS
O post Ex-pesquisador de OpenAI e Anthropic abandona setor e alerta: “IA pode matar a todos nós” apareceu primeiro em Jornal Opção.
Fonte: Jornal Opção
