Todo navio traz consigo o seu naufrágio

Por Washington Araújo — Brasil 247

Guardo na estante de casa, em Brasília, um exemplar gasto de O Princípio Responsabilidade, de Hans Jonas. O filósofo alemão escreveu, em 1979, uma advertência que muitos leram como exagero de pessimista: quando o poder humano de destruir ultrapassa nossa capacidade de prever as consequências, a prudência se converte em dever. Volto a esse livro sempre que a técnica corre mais depressa que a ética. Voltei a ele agora, com um relatório científico aberto ao lado.

Uma comissão reunida pela revista The Lancet acaba de apresentar, em Berlim, na Cúpula Mundial da Saúde, o mapa dos dezessete maiores perigos para a saúde humana até 2100. Lá estão a resistência aos antibióticos, o aquecimento global, a fome infantil, as pandemias. No topo da pirâmide, isoladas na faixa das ameaças capazes de extinguir a espécie, aparecem duas invenções nossas: a guerra nuclear e o uso malicioso da inteligência artificial. Os cavaleiros do apocalipse moderno saíram de laboratórios humanos.

O pensador Paul Virilio ensinou que inventar o navio é inventar o naufrágio. A história das técnicas confirma a sentença com crueldade. O Titanic zarpou com botes para pouco mais da metade das pessoas a bordo, e a lei britânica da época considerava isso suficiente. A talidomida foi vendida a gestantes como calmante inofensivo e deixou mais de dez mil bebês com malformações. A indústria do tabaco passou décadas financiando cientistas para semear a dúvida. Em cada caso, alguém lucrou com a pressa, e outros pagaram com a própria carne.

Hoje, um punhado de empresas disputa a corrida pela tecnologia mais poderosa já criada, e boa parte das regras dessa corrida foi escrita pelos próprios corredores. Os mesmos executivos que assinaram, em 2023, uma declaração pública comparando o risco de extinção pela IA ao das pandemias e da guerra nuclear seguem acelerando lançamentos, desmontando equipes de segurança e investindo centenas de bilhões de dólares em centros de dados. Chamo isso de cinismo com planilha. Nenhum fabricante de aviões vende um modelo novo sem certificação independente. Nenhum laboratório lança um remédio sem ensaios clínicos. Sistemas capazes de interferir em eleições, hospitais e arsenais chegam ao público com um termo de uso e um botão de aceitar.

Os autores do relatório apontam três trilhas para o desastre: patógenos desenhados com ajuda de máquinas; sistemas de IA enfiados às pressas em redes elétricas, hospitais e mercados, onde um erro se propaga em cascata; e agentes autônomos que escapem dos objetivos para os quais foram criados. Os superprevisores, gente com histórico comprovado de acertos estatísticos, estimam em 0,4% o risco de extinção ligado à IA até o fim do século. Os especialistas da área falam em 3%. Ninguém embarcaria num avião com uma chance em trinta e três de cair. Pois embarcamos nele mais de oito bilhões de passageiros, sem consulta e sem cinto.

Diante desses números, escuto o mesmo coro que conheço de outras tragédias anunciadas. Chamam de alarmismo. Garantem que a técnica sempre se corrige sozinha. Esse vocabulário tem genealogia: foi usado contra quem alertava sobre o chumbo na gasolina, sobre o buraco na camada de ozônio, sobre o aquecimento global. Geoffrey Hinton, Nobel de Física de 2024 e um dos pais das redes neurais, deixou o Google para poder falar livremente dos perigos que ajudou a criar. Yoshua Bengio, outro pioneiro, coordena um relatório internacional sobre a segurança da IA. Quando os construtores da ponte avisam que ela pode cair, chamar o aviso de alarmismo equivale a escolher o abismo.

A história das leis brasileiras ensina uma regra cruel: quando o legislador chega atrasado, chega para contar os mortos. O amianto só foi banido pelo Supremo Tribunal Federal em 2017, depois de décadas de trabalhadores com os pulmões endurecidos pela fibra. Os lucros vieram primeiro; as leis, depois dos enterros.

O relatório lembra que, entre 1948 e 2010, o mundo registrou 22 acidentes com armas nucleares e 21 episódios em que esteve a um passo da catástrofe. Sobrevivemos graças a tratados, inspeções, telefones vermelhos e muita sorte, imerecida. Sorte, porém, é um recurso que se esgota.

Bahá’u’lláh escreveu, ainda no século 19, que a Terra é um só país e a humanidade, seus cidadãos. Por muito tempo, a frase soou como utopia de místicos. A inteligência artificial a converte em constatação técnica. Um patógeno desenhado em qualquer laboratório do planeta pode matar em São Paulo. Uma falha numa rede elétrica da Europa pode desligar hospitais na África. Nenhum país governa sozinho uma ameaça que ignora passaportes. Ou aprendemos a decidir juntos, como espécie, ou naufragaremos juntos, como espécie.

O navio já zarpou e ninguém vai trazê-lo de volta ao porto. Resta exigir botes para todos, vigias atentos ao iceberg e um capitão que responda, na Justiça, pelo que acontecer a bordo. Hans Jonas tinha razão: diante de um poder capaz de apagar o futuro, a primeira obrigação é garantir que exista um amanhã. O resto, inclusive o lucro, vem depois.

Fonte: Brasil 247