O avanço do uso de inteligência artificial (IA) na produção de artigos científicos começa a provocar uma preocupação crescente entre investigadores e editoras académicas. Dois novos estudos internacionais apontam que ferramentas de IA generativa, como chatbots de linguagem, estão a criar referências falsas que acabam por ser incluídas em trabalhos publicados sem que autores, revisores ou revistas científicas se apercebam do erro.
Tornou-se comum os académicos serem alertados para novos trabalhos que citam a sua investigação, apenas para perceberem que se trata de um artigo inexistente. No ano passado, um relatório amplamente divulgado, o “Relatório MAHA”, emitido pela Casa Branca sobre as suas prioridades no combate às doenças crónicas, continha várias citações incorrectas que levaram alguns observadores a suspeitar que tinham sido geradas por inteligência artificial.
Um dos casos citados envolve o investigador Rafael Topaz, professor associado da Universidade de Columbia, nos EUA, que afirmou ter descoberto que uma ferramenta de IA adicionou silenciosamente uma referência inexistente num manuscrito académico. Segundo ele, o sistema foi usado apenas para ajustes gramaticais no texto. “Sou investigador de IA. Sei o que são alucinações. Se isto está a acontecer comigo, o que acontece com as outras pessoas?”, afirmou.
O estudo, publicado na revista científica The Lancet, chegou a conclusões semelhantes ao analisar artigos biomédicos publicados entre 2023 e o início de 2026. A auditoria encontrou mais de 4 mil referências falsas distribuídas em 2.810 artigos revistos por pares. Em 2023, um em cada 2.828 artigos apresentava pelo menos uma citação inventada. No início de 2026, a proporção passou para um em cada 277 trabalhos.
Os autores afirmam que o problema não está concentrado em investigações fraudulentas; em muitos casos, as citações inventadas aparecem espalhadas em trabalhos legítimos, o que sugere que os investigadores estão a copiar referências sugeridas por ferramentas de IA sem fazerem a verificação manual das fontes originais. O fenómeno foi mais comum entre autores menos experientes e equipas pequenas de investigação.
O alerta aparece num estudo conduzido por investigadores da Universidade Cornell, da UCLA e da UC Berkeley. Os cientistas analisaram 111 milhões de citações presentes em 2,5 milhões de artigos publicados entre 2020 e 2025 nas plataformas arXiv, bioRxiv, SSRN e PubMed Central. O trabalho identificou pelo menos 146.932 referências fabricadas por IA só em 2025.
Os investigadores rastrearam títulos de artigos que não puderam ser encontrados em bases académicas como o Google Scholar, Semantic Scholar e OpenAlex. A análise mostrou que o crescimento das referências falsas acelerou a partir de meados de 2024, cerca de um ano e meio após o lançamento público do ChatGPT, período em que as ferramentas de IA passaram a ser usadas também para sugerir bibliografias e citações automáticas.
Segundo o levantamento, as taxas de referências falsas chegaram a quase 2% os artigos publicados no SSRN em agosto de 2025. No PubMed Central, a principal base biomédica analisada, foram estimadas mais de 8 mil citações falsas em apenas um mês. O estudo também aponta que muitas destas referências sobreviveram aos processos de revisão e foram mantidas nas versões finais dos artigos científicos.
Tornou-se comum os académicos serem alertados para novos trabalhos que citam a sua investigação, apenas para perceberem que se trata de um artigo inexistente. No ano passado, um relatório amplamente divulgado, o “Relatório MAHA”, emitido pela Casa Branca sobre as suas prioridades no combate às doenças crónicas, continha várias citações incorrectas que levaram alguns observadores a suspeitar que tinham sido geradas por inteligência artificial.
Os investigadores alertam que o problema se pode tornar ainda mais difícil de controlar nos próximos anos, porque os modelos de IA treinados em bases académicas contaminadas por referências falsas podem reproduzir os mesmos erros em novos textos. Como resposta, os estudos defendem que as editoras científicas adotem sistemas automáticos de verificação de referências antes da publicação dos artigos.
Para saber mais:
Sem comentários:
Enviar um comentário