IA tem mais de 10% de chance de exterminar a humanidade em uma década, afirma pesquisador da Anthropic
Evan Hubinger, pesquisador sênior da Anthropic, alertou que há mais de 10% de probabilidade de que a inteligência artificial possa levar à extinção da humanidade nos próximos dez anos. A declaração ocorreu após a saída de Jacob Coxon, também da Anthropic, que expressou preocupações sobre a corrida entre as grandes empresas de tecnologia para desenvolver sistemas de IA que podem escapar do controle humano. Hubinger enfatizou que, embora os modelos atuais de IA apresentem baixo risco, existe a preocupação de que futuros sistemas possam se aprimorar de forma autônoma, superando a capacidade humana antes que medidas de segurança adequadas sejam implementadas. Ambos os pesquisadores destacam que, apesar dos investimentos em segurança, a pressão competitiva pode levar a um cenário incontrolável.
Fonte: RT – Daily news
