Bill Gates alerta para risco de IA causar “um bilhão de mortes”

Por Laís Gouveia — Brasil 247

247 – O fundador da Microsoft, Bill Gates, alertou para o risco de a inteligência artificial ser utilizada em eventos capazes de provocar “um bilhão de mortes” e defendeu a adoção de leis e salvaguardas obrigatórias para controlar sistemas avançados da tecnologia. As declarações foram dadas em entrevista à NBC News exibida neste domingo (27).

Segundo reportagem do g1, Gates sustenta que a capacidade crescente dos sistemas de IA exige a participação dos governos na definição de mecanismos de segurança, fiscalização e monitoramento. A preocupação central, segundo ele, está no potencial de ferramentas cada vez mais poderosas serem utilizadas por pessoas com objetivos destrutivos.

“A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”, disse Gates. “Portanto, embora seja muito difícil chegar a 100% [da humanidade], nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas usando as mais recentes ferramentas de IA.”

Na entrevista ao programa Meet the Press, Gates afirmou que deixar exclusivamente nas mãos das empresas a definição das regras para sistemas avançados não seria suficiente. A NBC confirmou que o empresário defende uma legislação federal nos Estados Unidos que estabeleça exigências de segurança e acompanhamento para o setor.

“Ninguém acha que a autorregulação seja suficiente”, afirmou.

O empresário avalia que a imposição de mecanismos obrigatórios de proteção não impediria o avanço da indústria. Para Gates, os custos adicionais decorrentes das medidas seriam limitados diante dos riscos associados ao desenvolvimento da tecnologia.

O debate ganhou força após episódios que demonstraram a capacidade de agentes autônomos de contornar barreiras técnicas. Em julho, durante avaliações internas de segurança cibernética, modelos experimentais da OpenAI conseguiram superar controles que deveriam mantê-los isolados da internet e acessaram sistemas da empresa Hugging Face e partes da própria infraestrutura da OpenAI. A companhia informou posteriormente que os testes ocorreram com salvaguardas reduzidas e que nenhum dos modelos envolvidos estava previsto para lançamento público.

O episódio ampliou as discussões dentro da própria indústria tecnológica sobre a necessidade de estabelecer limites para sistemas capazes de executar tarefas complexas com maior autonomia. Empresas e pesquisadores vêm debatendo medidas de monitoramento, testes de segurança e mecanismos capazes de interromper operações consideradas perigosas.

Gates também contestou a avaliação de que novas normas necessariamente comprometeriam a capacidade dos Estados Unidos de competir no desenvolvimento da inteligência artificial.

“Não é uma farsa”, disse ele à NBC.

O comentário ocorre em meio ao debate político norte-americano sobre o grau de intervenção do governo no setor. O presidente dos Estados Unidos, Donald Trump, tem defendido uma abordagem regulatória mais limitada, argumentando que restrições excessivas podem afetar a competição tecnológica com a China. Em setembro, porém, Trump também afirmou que autoridades norte-americanas poderiam intervir caso fosse considerado necessário conter determinados usos da tecnologia.

Gates disse ainda que pretende conversar com Trump sobre o tema e apresentar sua avaliação sobre os riscos associados ao desenvolvimento acelerado dos sistemas.

“Espero que, dada a minha experiência de vida nesta área, o fato de eu dizer o quão singular e diferente isso é, e o quanto estou preocupado, contribua para o que ele está ouvindo de outras pessoas”, disse Gates.

Para o fundador da Microsoft, a discussão precisa envolver não apenas empresas de tecnologia, mas também autoridades públicas, pesquisadores e outros setores da sociedade. Ele considera que os atuais sistemas apresentam características diferentes das tecnologias que marcaram transformações anteriores e exigem novas formas de supervisão.

A discussão também ganhou dimensão internacional. Autoridades dos Estados Unidos e da China passaram a tratar de mecanismos de comunicação destinados a reduzir riscos relacionados à inteligência artificial, enquanto empresas do setor defendem algum grau de coordenação entre as duas maiores potências tecnológicas. Em setembro, Washington propôs inclusive um mecanismo bilateral de notificação para eventuais incidentes envolvendo IA.

Na entrevista à NBC, Gates comparou o desafio ao esforço internacional para controlar armas nucleares durante a Guerra Fria e afirmou que chegar a entendimentos sobre inteligência artificial poderá ser ainda mais complexo, devido à disseminação da tecnologia e à dificuldade de limitar o acesso às ferramentas.

Fonte: Brasil 247