‘Companheiros de IA’ entram na mira do Ministério da Justiça e Segurança Pública
Por Vinicius Abrantes — Consultor Jurídico
Uma nova geração de serviços de inteligência artificial passou a oferecer “companhia”. Plataformas capazes de manter conversas recorrentes, armazenar informações sobre o usuário, adaptar respostas ao longo do tempo e simular traços de personalidade, amizade, afeto e até relações românticas.
O que acontece quando esse tipo de tecnologia é utilizado por crianças e adolescentes?
Nesta semana, o Ministério da Justiça e Segurança Pública solicitou à Agência Nacional de Proteção de Dados (ANPD) a abertura de investigação sobre 13 serviços de chamados “companheiros de IA”. Segundo o Ministério da Justiça, um diagnóstico técnico identificou riscos relacionados à dependência emocional e psicoafetiva e fragilidades na proteção de crianças e adolescentes.
A recomendação consta de nota técnica elaborada pela Secretaria Nacional de Direitos Digititais (Sedigi). Segundo informações divulgadas a partir do documento, foram analisadas plataformas como Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI.
Por se tratar de uma análise preliminar e de caráter investigativo, o documento não conclui pela prática de infrações pelas empresas. No entanto, aponta indícios de possíveis desconformidades legais que, na avaliação da secretaria, justificariam uma investigação mais aprofundada pela ANPD. Entre os pontos levantados estão a aferição de idade, o risco de uso excessivo ou compulsivo, a exposição a conteúdos inadequados e o tratamento de dados para formação de perfis emocionais e comportamentais dos usuários.
Este último aspecto que diferencia os chamados “companheiros de IA” de boa parte das discussões que tivemos até agora sobre inteligência artificial. O objetivo de alguns desses serviços é estabelecer uma interação contínua, profunda e rotineira. Quanto mais o usuário conversa, maior pode ser a quantidade de informações disponibilizadas sobre sua rotina, preferências, inseguranças, relacionamentos e estado emocional.
Dimensão de ameaça
O ponto central é que, quando o usuário é uma criança ou adolescente, essa dinâmica assume uma dimensão de ameaça ao bem-estar, ao desenvolvimento e à saúde mental.
SpaccaO ECA Digital, em vigor desde março deste ano, defende que produtos e serviços digitais precisam incorporar medidas específicas para proteger crianças e adolescentes. A legislação estabeleceu obrigações relacionadas, entre outros pontos, à prevenção e mitigação de riscos, à aferição de idade, à supervisão parental e à proteção contra conteúdos inadequados, ficando à cargo da ANPD regulamentar e fiscalizar o cumprimento dessas obrigações.
O que se pôde extrair da Nota Técnica da Sedigi é que a maior parte dos serviços analisados utiliza a autodeclaração como único mecanismo de aferição de idade. Em outras palavras, muitas vezes basta ao próprio usuário informar sua idade para acessar determinadas funcionalidades.
O problema é evidente. Se o mecanismo pode ser facilmente contornado, a proteção existe formalmente, mas pode ser pouco efetiva na prática. A própria Sedigi sustenta que essa facilidade de contornar a autodeclaração pode representar não apenas uma deficiência no mecanismo de aferição, mas também um indício de que há “acesso provável” de crianças e adolescentes ao serviço, circunstância relevante para a incidência das obrigações previstas no ECA Digital.
Essa discussão, porém, não começou agora. A ANPD já vinha tratando a aferição de idade como uma questão central da implementação do ECA Digital. Em junho, a Agência iniciou monitoramento específico de lojas de aplicativos e sistemas operacionais para acompanhar a implementação de mecanismos relacionados à aferição de idade. Em agosto, ampliou sua atuação e passou a monitorar também grandes plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial generativa para verificar o cumprimento de obrigações previstas tanto no Marco Civil da Internet quanto no ECA Digital.
Atenção ao desenho
No Mapa de Temas Prioritários da ANPD para o biênio de 2026 e 2027, dois dos quatro temas escolhidos para orientar a fiscalização da Agência estão diretamente relacionados à discussão: (i) a proteção de crianças e adolescentes no ambiente digital e a inteligência artificial e (ii) outras tecnologias emergentes no contexto do tratamento de dados pessoais.
Isso significa que empresas de tecnologia precisarão olhar para o tema não apenas sob a perspectiva de cumprimento formal da legislação, mas sim o próprio desenho dos produtos.
Ao disponibilizar determinado serviço para crianças e adolescentes, a plataforma deverá avaliar quais riscos decorrem das suas funcionalidades, quais medidas podem reduzi-los e se as configurações oferecidas por padrão são compatíveis com o nível de proteção esperado desse público.
O mesmo raciocínio vale para mecanismos de recomendação, notificações, estratégias de retenção e recursos destinados a estimular interações recorrentes. Em um sistema criado justamente para construir uma relação continuada com o usuário, a fronteira entre engajamento e indução a um comportamento excessivo pode se tornar particularmente sensível. Além disso, existe também uma questão essencial relacionada aos dados.
Conversas com companheiros virtuais podem revelar informações extremamente particulares. Uma criança, por exemplo, pode contar para uma inteligência artificial questões que talvez não compartilhasse com seus pais, amigos ou professores. Medos, inseguranças, conflitos familiares e informações sobre relacionamentos podem fazer parte dessas interações.
Por isso, não basta perguntar se os dados estão sendo coletados. É necessário perguntar para que são utilizados, por quanto tempo são armazenados, se ajudam a construir perfis comportamentais e emocionais e de que maneira influenciam as respostas futuras do sistema. Até porque, a premissa da IA é o autoaprendizado e, para isso ocorrer, as empresas precisan reter informações e dados.
Dimensão transversal
O Ministério da Justiça recomendou que a Secretaria Nacional do Consumidor examine questões relacionadas à publicidade, monetização e informações fornecidas aos usuários pelas plataformas. Ou seja, é um trabalho conjunto de vários órgãos de fiscalização e prevenção.
Esse ponto é importante porque demonstra a dimensão transversal da discussão, pois um mesmo produto pode envolver simultaneamente proteção de dados, direitos da criança e do adolescente, relações de consumo e regras específicas aplicáveis aos serviços digitais.
A investigação solicitada pelo Ministério da Justiça ainda está em estágio inicial e será necessário acompanhar quais elementos efetivamente serão identificados pela ANPD.
Ainda não há substrato suficiente para conclusões, mas o episódio já revela uma mudança importante na forma como os reguladores estão olhando para a inteligência artificial.
Quando a tecnologia deixa de ser apenas uma ferramenta e passa a ser desenhada para estabelecer vínculo com o usuário, a análise jurídica também precisa considerar a natureza dessa relação, os mecanismos utilizados para prolongá-la e os impactos que ela pode produzir. No caso de crianças e adolescentes, essa avaliação deverá ser ainda mais cuidadosa.
A inovação certamente não deve ser impedida (e nunca será!). Mas quanto maior a capacidade da tecnologia de conhecer, influenciar e criar vínculos com seus usuários, maior também deverá ser a preocupação com transparência, segurança e responsabilidade desde a concepção do produto.
Talvez esse seja o principal debate que a investigação coloca à mesa. Na era dos companheiros artificiais, proteger crianças e adolescentes não dependerá apenas de controlar aquilo que uma inteligência artificial pode dizer. Dependerá também de compreender como e por que ela foi projetada para continuar conversando, existindo e se desenvolvendo.
O post ‘Companheiros de IA’ entram na mira do Ministério da Justiça e Segurança Pública apareceu primeiro em Consultor Jurídico.
Fonte: Consultor Jurídico
