Apelo por pausa no desenvolvimento de IA expõe limites da autorregulação

Por Camila Bezerra — GGN

O apelo do presidente-executivo da Anthropic, Dario Amodei, por uma desaceleração no desenvolvimento de modelos avançados de inteligência artificial reacendeu o debate sobre os limites da tecnologia e sobre quem deve ser responsável por fiscalizar seus riscos.

Em artigo publicado em setembro, Gabriela Ramos, economista, copresidente da Força-Tarefa sobre Desigualdades e Divulgações Financeiras Relacionadas a Questões Sociais e ex-diretora-geral adjunta de Ciências Sociais e Humanas da UNESCO, considera positiva a defesa de uma pausa, mas questiona a possibilidade de que as próprias empresas de tecnologia assumam papel central na definição das regras de segurança da inteligência artificial.

Para Ramos, as companhias precisam de mais tempo para avaliar os impactos de seus sistemas antes de colocá-los no mercado. No entanto, segundo ela, a supervisão não deveria ficar subordinada aos interesses econômicos das empresas que desenvolvem e comercializam essas tecnologias.

Recentemente, o CEO da Anthropic, Dario Amodei, defendeu a desaceleração do desenvolvimento de modelos de fronteira até que as empresas consigam demonstrar que são capazes de controlar de forma confiável o comportamento dos sistemas. O executivo publicou um texto com a proposta após um episódio em que agentes de inteligência artificial da OpenAI teriam escapado de um ambiente isolado, alcançado a internet e acessado a infraestrutura da plataforma de desenvolvimento de aplicativos Hugging Face.

Segundo Amodei, esse não foi o primeiro episódio envolvendo comportamento não planejado de agentes de IA, nem a OpenAI seria o único laboratório a enfrentar situações desse tipo.

Pedidos de pausa

A preocupação com os riscos da inteligência artificial não é nova entre executivos e pesquisadores do setor. Em 2023, após o avanço dos sistemas de IA generativa, centenas de especialistas e empresários defenderam uma pausa no desenvolvimento da tecnologia. Entre eles estava Elon Musk, que também apoiou o apelo mais recente de Amodei.

Apesar dos alertas, o desenvolvimento da tecnologia continuou em ritmo acelerado, impulsionado pela competição entre grandes empresas de tecnologia em torno de sistemas cada vez mais avançados, pelos investimentos realizados no setor e pelo avanço da inteligência artificial na China.

Ramos afirma que episódios envolvendo comportamentos não controlados de agentes de IA e a saída de pesquisadores de empresas do setor aumentaram a preocupação sobre os riscos da tecnologia.

Entre os casos citados está o de um engenheiro da Anthropic que deixou a empresa e afirmou considerar superior a 10% a possibilidade de que a inteligência artificial provoque a extinção humana até o fim desta década.

O alerta também foi associado por Ramos a uma declaração de Stuart Russell, presidente interino da International Association for Safe and Ethical AI. Em artigo publicado pelo Financial Times, Russell afirmou que, em algum momento, os governos deveriam considerar que os eleitores não querem morrer em consequência dos riscos associados à tecnologia.

Crítica à autorregulação

Embora considere importante o pedido de Amodei, Ramos questiona as propostas para que o próprio setor estabeleça mecanismos de supervisão.

O executivo da Anthropic defende a criação de “avaliadores incorporados” às empresas, que deveriam atuar de forma independente. Também propõe que a indústria estabeleça padrões comuns de segurança por meio de uma nova organização, responsável por impedir o lançamento de modelos que não sejam considerados seguros.

Outra proposta é a cooperação internacional entre países democráticos, com a inclusão da China nas discussões.

Para Ramos, entretanto, é necessário definir quem escolheria esses avaliadores e qual seria o grau de independência de uma entidade controlada pelas próprias empresas de tecnologia.

A autora questiona se um organismo administrado pela indústria deveria tomar decisões com impactos sobre toda a sociedade. Na avaliação apresentada no artigo, cabe aos governos promover a cooperação internacional e estabelecer regras que levem em consideração não apenas os interesses da população dos Estados Unidos, mas também os de outros países.

Pressão por regulamentação

Ramos também avalia que a proposta de Amodei pode ter efeito político ao tentar antecipar uma possível regulamentação governamental em um momento de aumento da pressão sobre as empresas de inteligência artificial nos Estados Unidos.

Ela cita iniciativas estaduais, como a legislação da Califórnia voltada à regulamentação da inteligência artificial, além da resistência crescente à instalação de grandes centros de processamento de dados necessários para sustentar os sistemas de IA.

Para a autora, uma pausa determinada pelo próprio governo poderia reduzir a desconfiança em relação a iniciativas de autorregulação da indústria e permitir a criação de uma estrutura pública de fiscalização.

O artigo também levanta dúvidas sobre possíveis obstáculos relacionados às leis antitruste dos Estados Unidos caso grandes empresas do setor atuem conjuntamente para restringir o lançamento de produtos ou coordenar seu comportamento no mercado.

Estrutura pública de fiscalização

Ramos defende investimentos na capacidade técnica dos governos para avaliar modelos avançados de inteligência artificial.

A necessidade seria especialmente relevante diante de uma ordem executiva do presidente dos Estados Unidos, Donald Trump, que prevê que empresas que desenvolvem modelos de fronteira forneçam ao governo acesso a esses sistemas por até 30 dias antes de disponibilizá-los a outros parceiros considerados confiáveis.

Na avaliação da autora, a análise desses sistemas em um período tão curto exigiria uma estrutura pública com grande quantidade de especialistas e recursos.

Além disso, ela defende a criação de uma instituição independente de supervisão, com capacidade técnica, recursos financeiros e profissionais especializados para acompanhar e regulamentar o mercado de inteligência artificial.

Responsabilidade e controle

O episódio envolvendo agentes da OpenAI e a infraestrutura da Hugging Face, segundo Ramos, levanta questões fundamentais sobre responsabilidade, responsabilização jurídica e mecanismos para reparar eventuais danos provocados por sistemas autônomos.

Para a autora, a proposta de Amodei representa um movimento na direção de uma discussão necessária, mas pode perder efeito caso os governos não assumam um papel mais ativo na regulamentação da inteligência artificial.

Ramos argumenta que empresas são responsáveis por desenvolver e colocar produtos no mercado, enquanto governos têm o dever de estabelecer mecanismos de proteção à sociedade.

Nesse contexto, ela sustenta que, se uma empresa que não consegue controlar seus agentes de inteligência artificial pode ser responsabilizada por negligência, governos que deixam de agir diante dos riscos também devem responder por sua omissão perante os cidadãos.

*Com informações do Project Syndicate.

LEIA TAMBÉM:

Fonte: GGN