IA poderosa demais pode ameaçar humanidade, alerta ONU
A ONU expressou preocupações sobre o avanço da inteligência artificial (IA) durante um discurso de Volker Türk, alto comissário da organização, no Conselho de Direitos Humanos em Genebra. Türk destacou que sistemas de IA cada vez mais autônomos podem se tornar uma ameaça existencial se não forem estabelecidos limites adequados. Ele enfatizou a necessidade de regras obrigatórias e mecanismos de fiscalização independentes para monitorar o desenvolvimento dessa tecnologia, especialmente à medida que empresas investem em agentes de IA que operam sem supervisão humana constante.
Além disso, Türk alertou para a concentração do poder de desenvolvimento da IA em um pequeno número de empresas, que detêm não apenas as tecnologias, mas também grandes volumes de dados e infraestrutura essencial. Ele defendeu uma maior cooperação entre empresas, governos e pesquisadores para garantir que a IA seja desenvolvida com responsabilidade, priorizando benefícios sociais e democráticos. Outro ponto crítico levantado foi a aplicação da IA em contextos de conflito armado, que intensifica as preocupações em torno de sua autonomia.
Fonte: Canaltech
