OpenAI, Anthropic e Google planejam órgão para definir padrões de segurança em IA
Por Toque Tec — Carta Capital
Menu
Batizada de Standards Authority for Frontier AI, iniciativa poderia começar a funcionar entre o fim de 2026 e o início de 2027 e teria foco em testes, auditorias e relatos de incidentes
OpenAI, Anthropic e Google discutem a criação de uma organização conjunta voltada à definição de padrões de segurança para sistemas de inteligência artificial avançada. Segundo o The Information, as empresas vêm mantendo reuniões para estruturar o projeto, que poderá se chamar Standards Authority for Frontier AI (SAFA). A previsão discutida pelo grupo é de que a iniciativa seja lançada entre o fim de 2026 e o início de 2027.
A proposta surge em um momento de avanço acelerado dos chamados modelos de fronteira, sistemas desenvolvidos para executar tarefas cada vez mais complexas. Em vez de estabelecer apenas recomendações internas, a SAFA teria como objetivo transformar compromissos voluntários de segurança adotados pelas empresas em práticas e padrões mais concretos para o setor.
Entre as atribuições discutidas está o apoio a organizações independentes responsáveis por testar modelos antes de sua implementação. A ideia é ampliar a participação de avaliadores externos na análise de sistemas avançados, incluindo testes voltados à identificação de riscos e vulnerabilidades.
A organização também poderia estabelecer diretrizes para que desenvolvedores de inteligência artificial comuniquem incidentes relacionados à segurança. Um padrão comum de comunicação permitiria, por exemplo, definir quais situações deveriam ser reportadas e quais informações deveriam ser compartilhadas quando um sistema apresentar um problema relevante.
Outro possível papel da SAFA seria contribuir para a criação de critérios comuns de avaliação e segurança. A iniciativa poderia definir parâmetros para testes independentes e estabelecer requisitos para organizações e profissionais responsáveis por auditorias de modelos de IA.
A discussão também envolve a relação entre a futura organização e iniciativas governamentais existentes. O The Information relata que ainda não está definido até que ponto a SAFA participaria diretamente dos testes de segurança e como suas atividades se relacionariam com trabalhos já realizados por órgãos públicos nos Estados Unidos.
A criação de padrões comuns não seria, entretanto, uma ideia inédita entre as empresas. Google, Microsoft, OpenAI e Anthropic já participam do Frontier Model Forum, criado em 2023 com o objetivo de promover pesquisas em segurança e avaliações independentes e padronizadas de modelos de fronteira.
A possível criação da SAFA representaria um passo adicional em direção à definição de procedimentos compartilhados para sistemas cada vez mais avançados. Por enquanto, porém, a estrutura, a governança e o cronograma definitivo da organização ainda estão em discussão entre as empresas.
Muita gente esqueceu o que escreveu, disse ou defendeu. Nós não. O compromisso de CartaCapital com os princípios do bom jornalismo permanece o mesmo.
O combate à desigualdade nos importa. A denúncia das injustiças importa. Importa uma democracia digna do nome. Importa o apego à verdade factual e a honestidade.
Estamos aqui, há mais de 30 anos, porque nos importamos. Como nossos fiéis leitores, CartaCapital segue atenta.
Se o bom jornalismo também importa para você, nos ajude a seguir lutando. Assine a edição semanal de CartaCapital ou contribua com o quanto puder.
Desenvolvido por OKN Technology Agency
Fonte: Carta Capital
.jpg?itok=aUJ7Dvda)