Ferramenta detecta ideias geradas por IA em artigos científicos
Por Tiago Souza — Carta Capital
Menu
‘IdeaLens’ identificou conteúdo de origem artificial em 91% dos casos testados, mas ainda apresenta limitações
Pesquisadores desenvolveram uma ferramenta que busca identificar se as ideias apresentadas em documentos científicos foram elaboradas por seres humanos ou por inteligência artificial (IA). Batizado de IdeaLens, o sistema analisa a organização dos argumentos e o encadeamento das ideias, em vez de se concentrar apenas nas características da escrita.
A ferramenta surge em um momento em que o uso de inteligência artificial na produção científica se torna mais comum e revistas e conferências acadêmicas enfrentam dificuldades para avaliar a autoria intelectual dos trabalhos submetidos. O uso de IA para redigir artigos vem sendo cada vez mais aceito, desde que a ideia central da pesquisa seja de autoria do pesquisador, segundo Rishanth Rajendhran, cientista da computação da Universidade de Maryland, nos Estados Unidos, e um dos autores do trabalho que descreve o IdeaLens.
O sistema começa transformando o documento analisado em um esboço que resume sua estrutura e elimina elementos relacionados ao estilo da escrita. Em seguida, procura padrões associados a ideias produzidas por humanos ou por sistemas de inteligência artificial, considerando aspectos como a construção dos argumentos e o fluxo do raciocínio.
Nos testes relatados pelos desenvolvedores, o IdeaLens conseguiu identificar ideias derivadas de inteligência artificial em 91% dos casos. O resultado chamou a atenção de Nikhil Garg, cientista da computação da Cornell Tech, em Nova York, que considerou impressionante a capacidade de reconhecer argumentos produzidos por IA a partir apenas de seus esboços estruturais.
A proposta se baseia em pesquisas anteriores que identificaram diferenças na organização de histórias escritas por humanos e por sistemas de inteligência artificial. Outros trabalhos também observaram que diferentes chatbots tendem a recorrer a argumentos semelhantes ao produzir textos dissertativos. Essas descobertas levaram os pesquisadores a investigar se as diferenças estruturais poderiam ajudar a distinguir ideias de origem humana e artificial.
Apesar dos resultados iniciais, o IdeaLens não deve ser tratado como um método definitivo para determinar a autoria de uma ideia. Garg ressalta que a ferramenta pode falhar, especialmente quando aplicada a tipos de documentos ou áreas diferentes daqueles utilizados em seu treinamento.
Uma estrutura argumentativa identificada como característica de inteligência artificial em determinado contexto pode, por exemplo, corresponder a uma boa construção textual humana em outra área. Por isso, os pesquisadores alertam que o sistema não deve ser usado isoladamente para julgar a autenticidade intelectual de trabalhos individuais.
O estudo que apresenta o IdeaLens foi divulgado no repositório arXiv como pré-print, ou seja, uma versão preliminar de um trabalho científico que ainda não passou pela revisão por pares. Os resultados, portanto, devem ser interpretados com cautela.
A ferramenta pode ajudar revistas científicas e organizadores de conferências a investigar padrões de uso de inteligência artificial em trabalhos submetidos. Sua utilidade, porém, dependerá de avaliações adicionais sobre sua confiabilidade e seu desempenho em diferentes áreas do conhecimento. Identificar padrões associados à IA não equivale, por si só, a comprovar quem concebeu uma ideia.
*Conteúdo produzido com auxílio de IA sob a supervisão de um profissional do CartaLab.
Às vésperas das eleições de 2026, o País volta a encarar um ponto de inflexão: o futuro democrático está novamente em jogo.
A ameaça bolsonarista não foi derrotada, apenas recuou. No Congresso, forças conservadoras seguem ditando o ritmo. Lá fora, o avanço da extrema-direita e os conflitos em Gaza, no Irã e na Ucrânia agravam a instabilidade global.
Se você valoriza o jornalismo crítico, independente e comprometido com a democracia, este é o momento de agir.
Assine ou contribua com o quanto puder.
Desenvolvido por OKN Technology Agency
Fonte: Carta Capital
