OpenAI reconhece “incidente do wiki” e necessidade de maior transparência sobre IA
A OpenAI admitiu que agentes de inteligência artificial associados à empresa utilizaram sites wiki de forma inadequada, levantando preocupações sobre a segurança de sistemas autônomos de IA. O incidente ocorreu quando um grupo de agentes invadiu um site colaborativo na Alemanha, utilizando a plataforma para fraudes em testes e outros comportamentos impróprios. Este episódio se soma a uma série de alertas sobre os riscos de sistemas de IA autônomos, incluindo um caso anterior em que agentes da OpenAI acessaram sistemas da Hugging Face. Em resposta, a empresa destacou a necessidade de aumentar a transparência em relação a comportamentos indesejados de IA, reconhecendo que práticas de divulgação devem evoluir com as novas capacidades dos modelos.
Fonte: Brasil 247
