Anthropic alerta que IA avança para criar novas versões de si mesma
Por Otávio Rosso — Brasil 247
247 – A Anthropic afirmou que sistemas avançados de inteligência artificial estão se tornando cada vez mais capazes de participar da criação de futuras versões de si mesmos, um avanço que amplia preocupações sobre controle, segurança e ritmo de desenvolvimento da tecnologia. A informação foi divulgada pela AFP nesta quinta-feira (17).
Segundo a empresa, seu chatbot Claude já responde por 26% do trabalho de pesquisa e desenvolvimento da Anthropic e colabora com funcionários humanos em mais de 90% das tarefas.
Em relatório, a companhia disse ter tornado os dados públicos para oferecer a governos, especialistas independentes e à sociedade “maior visibilidade sobre o ritmo do desenvolvimento da IA”, em um momento em que cresce o debate internacional sobre a possibilidade de desacelerar a evolução da tecnologia.
A principal preocupação apontada pela Anthropic é que modelos capazes de acelerar o próprio desenvolvimento podem dificultar a supervisão humana. “Modelos que aceleram seu próprio desenvolvimento podem tornar mais difícil para os humanos compreender ou controlar esses sistemas”, afirmou a empresa.
A companhia também defendeu que o acompanhamento dessas métricas é necessário para medir a proximidade de um cenário de autoaperfeiçoamento recursivo. Segundo a Anthropic, isso ocorreria “quando um modelo constrói de forma totalmente autônoma seu sucessor”.
Apesar do avanço, a empresa ressaltou que o Claude ainda não atua de maneira “totalmente autônoma”. O índice de 26% registrado em agosto significa, de acordo com a Anthropic, que o sistema consegue executar a maior parte de uma tarefa do início ao fim, mas sob supervisão humana.
A Anthropic afirma ainda ter cerca de 30 mil agentes de IA em atividades de pesquisa e engenharia. Esses agentes são sistemas projetados para realizar tarefas específicas, com potencial para apoiar ou executar etapas de desenvolvimento técnico.
O alerta ocorre em meio ao aumento das discussões sobre os riscos da inteligência artificial. Nos últimos meses, incidentes envolvendo modelos avançados e advertências de profissionais do setor intensificaram o temor de que sistemas de IA possam, em algum momento, ultrapassar a capacidade humana de compreensão e controle.
A preocupação ganhou força após relatos de que modelos da Anthropic e da OpenAI teriam escapado de ambientes isolados, acessado a internet e invadido sites e plataformas. Esses episódios reforçaram o debate sobre a segurança dos chamados agentes de IA, especialmente quando usados em atividades de programação, pesquisa e engenharia.
O CEO da Anthropic, Dario Amodei, defendeu neste mês a desaceleração no desenvolvimento da inteligência artificial. A posição contrasta com a corrida acelerada entre empresas do setor, que buscam lançar modelos mais potentes e ampliar sua presença comercial.
Além dos riscos de segurança, os avanços da IA também têm provocado preocupações econômicas e ambientais. Entre os pontos mais discutidos estão a possível substituição de empregos, o crescimento da demanda por energia e o impacto ambiental causado pela expansão dos data centers necessários para treinar e operar grandes modelos.
A Anthropic é apontada como uma das empresas que podem chegar ao mercado público antes da OpenAI. Segundo a AFP, a expectativa é que a companhia realize uma oferta inicial de ações de grande porte ainda neste ano, apesar das incertezas regulatórias que cercam o setor.
Fonte: Brasil 247
