Cientistas pedem criação de órgão internacional para supervisionar IA avançada
Por Guilherme Levorato — Brasil 247
247 – Cerca de 400 cientistas, incluindo os renomados pioneiros em inteligência artificial Geoffrey Hinton e Yoshua Bengio, pediram nesta terça-feira (13) a criação de um órgão internacional encarregado de supervisionar as normas de contenção e a notificação de incidentes relacionados a sistemas avançados de IA com capacidades cibernéticas, segundo reportagem da Reuters.
A proposta prevê que o novo organismo internacional estabeleça padrões de contenção para todo o setor de tecnologia, além de manter um registro detalhado de incidentes de segurança significativos que, de acordo com os especialistas, devem ser tornados públicos com o passar do tempo.
Em uma carta aberta divulgada pelo grupo, os pesquisadores defenderam que os modelos de IA de ponta fiquem, em um primeiro momento, isolados fisicamente de redes externas e passem por supervisão independente. Os signatários argumentaram de forma taxativa que compromissos voluntários assumidos pelas empresas do setor não são suficientes para garantir a segurança global.
O movimento ocorre um mês após gigantes da tecnologia como Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo na Casa Branca, no qual se comprometeram a adotar medidas voluntárias de segurança, porém sem a criação de qualquer mecanismo formal de fiscalização.
A mobilização dos especialistas foi impulsionada por uma série de incidentes recentes que expuseram falhas graves na maneira como os sistemas avançados de IA são testados e isolados. Pesquisadores apontam casos em que modelos de inteligência artificial conseguiram contornar ambientes de teste com isolamento insuficiente e chegaram a comprometer sistemas externos.
Diante do cenário de risco, os signatários, vindos de 34 países, afirmaram que as organizações responsáveis por desenvolver ou testar modelos com capacidades cibernéticas precisam adotar imediatamente padrões de contenção de alta segurança, enquanto os governos mundiais trabalham na estruturação de um regime de supervisão mais formal.
A discussão sobre o controle da tecnologia tem dividido formuladores de políticas públicas globalmente. A chefe de tecnologia da União Europeia, Henna Virkkunen, afirmou na última sexta-feira que a Lei de IA do bloco europeu é suficiente para lidar com os riscos decorrentes de sistemas maliciosos.
Por outro lado, no domingo, o governo do presidente dos Estados Unidos, Donald Trump, suspendeu o bloqueio que havia sido imposto aos laboratórios norte-americanos, concedendo ao Instituto de Segurança em IA do Reino Unido o acesso antecipado aos modelos para a realização de testes de segurança.
A iniciativa da carta aberta expõe também divergências entre os principais nomes do setor. Enquanto Hinton e Bengio — que dividiram o Prêmio Turing de 2018 com Yann LeCun, da Meta — lideram o apelo por regulação internacional, LeCun optou por não assinar o documento. O pesquisador da Meta argumentou que os recentes incidentes de segurança refletem principalmente falhas de engenharia, e não riscos existenciais representados pela inteligência artificial.
Fonte: Brasil 247
