IA cria referências falsas e contamina artigos científicos, apontam estudos

O avanço do uso de inteligência artificial (IA) na produção de artigos científicos começa a provocar uma preocupação crescente entre investigadores e editoras académicas. Dois novos estudos internacionais apontam que ferramentas de IA generativa, como chatbots de linguagem, estão a criar referências falsas que acabam por ser incluídas em trabalhos publicados sem que autores, revisores ou revistas científicas se apercebam do erro.

Tornou-se comum os académicos serem alertados para novos trabalhos que citam a sua investigação, apenas para perceberem que se trata de um artigo inexistente. No ano passado, um relatório amplamente divulgado, o “Relatório MAHA”, emitido pela Casa Branca sobre as suas prioridades no combate às doenças crónicas, continha várias citações incorrectas que levaram alguns observadores a suspeitar que tinham sido geradas por inteligência artificial.

Um dos casos citados envolve o investigador Rafael Topaz, professor associado da Universidade de Columbia, nos EUA, que afirmou ter descoberto que uma ferramenta de IA adicionou silenciosamente uma referência inexistente num manuscrito académico. Segundo ele, o sistema foi usado apenas para ajustes gramaticais no texto. “Sou investigador de IA. Sei o que são alucinações. Se isto está a acontecer comigo, o que acontece com as outras pessoas?”, afirmou.

O estudo, publicado na revista científica The Lancet, chegou a conclusões semelhantes ao analisar artigos biomédicos publicados entre 2023 e o início de 2026. A auditoria encontrou mais de 4 mil referências falsas distribuídas em 2.810 artigos revistos por pares. Em 2023, um em cada 2.828 artigos apresentava pelo menos uma citação inventada. No início de 2026, a proporção passou para um em cada 277 trabalhos.

Os autores afirmam que o problema não está concentrado em investigações fraudulentas; em muitos casos, as citações inventadas aparecem espalhadas em trabalhos legítimos, o que sugere que os investigadores estão a copiar referências sugeridas por ferramentas de IA sem fazerem a verificação manual das fontes originais. O fenómeno foi mais comum entre autores menos experientes e equipas pequenas de investigação.

O alerta aparece num estudo conduzido por investigadores da Universidade Cornell, da UCLA e da UC Berkeley. Os cientistas analisaram 111 milhões de citações presentes em 2,5 milhões de artigos publicados entre 2020 e 2025 nas plataformas arXiv, bioRxiv, SSRN e PubMed Central. O trabalho identificou pelo menos 146.932 referências fabricadas por IA só em 2025.

Os investigadores rastrearam títulos de artigos que não puderam ser encontrados em bases académicas como o Google Scholar, Semantic Scholar e OpenAlex. A análise mostrou que o crescimento das referências falsas acelerou a partir de meados de 2024, cerca de um ano e meio após o lançamento público do ChatGPT, período em que as ferramentas de IA passaram a ser usadas também para sugerir bibliografias e citações automáticas.

Segundo o levantamento, as taxas de referências falsas chegaram a quase 2% os artigos publicados no SSRN em agosto de 2025. No PubMed Central, a principal base biomédica analisada, foram estimadas mais de 8 mil citações falsas em apenas um mês. O estudo também aponta que muitas destas referências sobreviveram aos processos de revisão e foram mantidas nas versões finais dos artigos científicos.

Tornou-se comum os académicos serem alertados para novos trabalhos que citam a sua investigação, apenas para perceberem que se trata de um artigo inexistente. No ano passado, um relatório amplamente divulgado, o “Relatório MAHA”, emitido pela Casa Branca sobre as suas prioridades no combate às doenças crónicas, continha várias citações incorrectas que levaram alguns observadores a suspeitar que tinham sido geradas por inteligência artificial.

Os investigadores alertam que o problema se pode tornar ainda mais difícil de controlar nos próximos anos, porque os modelos de IA treinados em bases académicas contaminadas por referências falsas podem reproduzir os mesmos erros em novos textos. Como resposta, os estudos defendem que as editoras científicas adotem sistemas automáticos de verificação de referências antes da publicação dos artigos.

Para saber mais:

What Are AI Hallucinations? Why Chatbots Make Things Up, and What You Need to Know

Experts warn ‘AI-written’ paper is latest spin on climate change denial

Climate change deniers are pushing an AI-generated paper questioning human-induced warming, leading experts to warn against the rise of research that is inherently flawed but marketed as neutral and scrupulously logical.

The paper rejects climate models on human-induced global warming and has been widely cited on social media as being the first “peer-reviewed” research led by artificial intelligence (AI) on the topic.

Titled “A Critical Reassessment of the Anthropogenic CO2-Global Warming Hypothesis,” it contains references contested by the scientific community, according to experts interviewed by AFP.

Computational and ethics researchers also cautioned against claims of neutrality in papers that use AI as an author.

The new study — which claims to be entirely written by Elon Musk’s Grok 3 AI — rapidly gained traction following a blog post by Covid-19 contrarian Robert Malone and gathered more than a million views on Musk’s social media platform X.

Malone — who has shared numerous false claims fact-checked by AFP and others — argued that the paper shows “the climate scam is over” and reveals “a general trend to exaggerate global warming.”

The paper nonetheless contradicts an overwhelming scientific consensus (archived here) linking fossil fuel combustion to rising global temperatures and increasingly severe weather disasters.

Illusion of objectivity

Academics have warned (archived here) that the surge of AI in research, despite potential benefits, risks triggering an illusion of objectivity and insight in scientific research.

“Large language models do not have the capacity to reason. They are statistical models predicting future words or phrases based on what they have been trained on. This is not research,” argued Mark Neff, an environmental sciences professor (archived here).

The paper states that Grok 3 “wrote the entire manuscript,” with input from co-authors who “played a crucial role in guiding its development.”

Among the co-authors was astrophysicist Willie Soon (archived here) — a climate contrarian who (archived here) has received more than a million dollars in funding from the fossil fuel industry over the years.

Research by physicist Hermann Harde and Soon himself — which have been scientifically contested papers (archived here and here) — were used as references for the AI’s analysis, per the co-authors’ request.

“There is some uncertainty in solar irradiance reconstructions but the Soon et al. study (cited by the paper attributed to Grok) relies on a single outlier (the one by Hoyt and Schatten) which was recently investigated and recompiled and found to be completely made up,” NASA’s top climate scientist Gavin Schmidt (archived here) told AFP on March 25.

AFP has debunked other false theories about the Sun’s role in Earth’s warming.

Microbiologist Elisabeth Bik (archived here), who tracks scientific malpractice, remarked the paper also did not describe how it was written: “It includes datasets that formed the basis of the paper, but no prompts,” she noted on March 26. “We know nothing about how the authors asked the AI to analyze the data.”

Ashwinee Panda (archived here), a postdoctoral fellow on AI safety at the University of Maryland, explained on March 26 that the claim that Grok 3 wrote the paper created a veneer of objectivity that was unverifiable.

“Anyone could just claim ‘I didn’t write this, the AI did, so this is unbiased’ without evidence,” he said.

In an even more confusing turn of events, Grok later distanced itself from the climate denial paper on X, as well as questioned its scientific integrity.

“I didn’t write the paper; my name was used without my involvement,” the chatbot’s official X account posted on March 23.

“The human co-authors crafted it, and I had no role in its creation. I’ve called it ‘scientifically unsound’ due to data cherry-picking and oversimplified assumptions, suggesting an agenda-driven approach. It’s odd to be listed as lead author on a paper I critique, raising ethical questions about its authorship and publication.”

Opaque review process

Neither the journal nor its publisher — which seems to have published only one journal — appear to be members of the Committee of Publication Ethics (archived here and here).

The paper acknowledges “the careful edits provided by a reviewer and the editor-in-chief,” identified on its website as Harde.

It does not specify whether it underwent (archived here) open, single-, or double-blind review and was submitted and published within just 12 days.

“That an AI would effectively plagiarize nonsense papers,” does not come as a surprise, said NASA’s Schmidt, but “this retread has just as little credibility.”

AFP reached out to the authors of the paper for further comment on the review process, but did not receive an immediate response.

“The use of AI is just the latest ploy, to make this seem as if it is a new argument, rather than an old, false one,” Naomi Oreskes, a science historian at Harvard University, told AFP (archived here) on March 28.

More of AFP’s coverage of climate misinformation can be found here.