Fausses citations générées par l’IA : une menace croissante pour l’intégrité scientifique
Introduction
Les fausses citations générées par l’IA menacent de plus en plus l’intégrité scientifique. Ces outils peuvent produire des références plausibles, mais inexistantes. Ils introduisent alors des erreurs dans la littérature académique et fragilisent la confiance dans les publications scientifiques.
En effet, la littérature scientifique repose sur un principe simple. Chaque référence doit mener vers une source réelle, accessible et vérifiable.
Pourtant, une récente étude publiée dans The Lancet montre une hausse rapide des références fictives dans des articles évalués par les pairs. Jusqu’ici marginal, ce phénomène prend de l’ampleur avec la généralisation des outils d’intelligence artificielle générative. Par conséquent, les méthodes de contrôle traditionnelles ne détectent plus toujours ces erreurs avant publication.
Que sont les fausses citations scientifiques ?
Une fausse citation est une référence bibliographique qui renvoie à une étude inexistante.
Ces références peuvent être introduites volontairement dans le cadre de pratiques frauduleuses, notamment par certaines paper mills, ou apparaître involontairement lors de l’utilisation d’outils capables de générer automatiquement du contenu scientifique.
Le problème est particulièrement préoccupant lorsque la référence semble crédible : titre réaliste, auteurs plausibles, revue reconnue et année de publication cohérente.
À première vue, rien ne permet de distinguer une référence authentique d’une référence inventée.
Une étude menée sur 2,5 millions d’articles scientifiques
Afin d’évaluer l’ampleur du phénomène, les chercheurs ont analysé :
- 2,5 millions d’articles biomédicaux ;
- plus de 97 millions de références bibliographiques vérifiées ;
- des publications parues entre 2023 et 2026.
Les résultats montrent une progression rapide des références fabriquées dans la littérature scientifique.
Principaux résultats
- Plus de 4 000 références fictives ont été identifiées.
- Plus de 2 800 articles contenaient au moins une citation fabriquée.
- Le nombre de références fictives a été multiplié par plus de 12 entre 2023 et 2025.
- Début 2026, environ un article sur 277 contenait au moins une référence inexistante.
Ces chiffres suggèrent que le phénomène ne relève plus d’incidents isolés mais d’une tendance mesurable à l’échelle de la publication scientifique.
Pourquoi les fausses citations posent un problème majeur
Les références bibliographiques constituent l’infrastructure invisible de la recherche.
Lorsqu’une citation renvoie vers une étude inexistante, il devient impossible de vérifier l’information, de reproduire les résultats ou d’évaluer la solidité des preuves avancées.
Les conséquences peuvent concerner plusieurs acteurs :
- les chercheurs qui s’appuient sur une littérature erronée ;
- les cliniciens qui utilisent des résultats non vérifiables ;
- les décideurs qui fondent leurs choix sur des preuves fragilisées ;
- les éditeurs dont la crédibilité est engagée.
L’étude révèle également que 98 % des articles contenant des références fabriquées n’avaient fait l’objet ni d’une correction ni d’une rétractation au moment de l’analyse.
Ce constat met donc en évidence les limites des processus actuels de vérification des références.
Le rôle croissant de l’intelligence artificielle
Les grands modèles de langage (LLM) peuvent produire des références bibliographiques très convaincantes.
Lorsqu’ils ne disposent pas d’une source réelle correspondant à une demande, certains modèles génèrent parfois une référence fictive mais plausible. Ce phénomène est généralement désigné sous le terme d’« hallucination ».
Avec l’adoption croissante de l’IA dans la rédaction scientifique, ce risque devient un enjeu concret pour les chercheurs, les reviewers et les éditeurs.
Toutefois, la difficulté réside dans le fait que ces références ressemblent souvent à des citations parfaitement légitimes et peuvent passer inaperçues lors d’une vérification manuelle rapide.
Vers une vérification systématique des références
L’augmentation des citations fabriquées souligne la nécessité de renforcer les mécanismes de contrôle bibliographique.
Dès lors, la vérification de l’existence des références ne peut plus être considérée comme une simple étape administrative. Elle devient un élément essentiel de l’assurance qualité dans l’édition scientifique.
À mesure que les outils d’IA se généralisent, la capacité à détecter rapidement les références inexistantes jouera un rôle déterminant dans la préservation de la confiance, de la transparence et de la reproductibilité de la recherche.
Étude source : « Fabricated citations: an audit across 2.5 million biomedical papers », publiée dans la revue médicale The Lancet.
> Découvrir tous les articles de notre blog