Rédiger plus vite, digérer des montagnes d'articles, déboguer un script en quelques secondes : pour les chercheurs, l'IA générative promet un gain de temps considérable. Mais cette productivité a un prix. Références inventées, uniformisation de la pensée, données confidentielles exposées, évaluation par les pairs déléguée à une machine : les outils comme ChatGPT font vaciller les fondations mêmes de l'intégrité scientifique. La question n'est plus de savoir si la recherche va les adopter, mais comment le faire sans trahir ce qui fait la fiabilité de la science.

Un outil devenu omniprésent dans les labos

En quelques années, les grands modèles de langage se sont glissés dans presque toutes les étapes du travail scientifique. Les chercheurs les mobilisent pour explorer la littérature, synthétiser de vastes corpus, analyser des données, écrire et relire des manuscrits, ou générer du code. L'attrait est réel : une étude publiée dans Science évoque un bond de productivité de l'ordre de 89 %. Mais la même étude constate que la qualité, elle, tend à diminuer. Le gain de temps se paie donc parfois d'une perte de rigueur.

L'ampleur du phénomène a poussé les institutions à réagir. En avril 2025, l'Office français de l'intégrité scientifique (Ofis) réunissait à Paris 200 participants pour un colloque entièrement consacré à la manière dont l'IA générative transforme les pratiques de recherche. Le constat partagé : l'enjeu n'est plus l'intégration de ces outils, désormais actée, mais leur usage responsable.

Quand la machine invente ses sources

Le risque le plus documenté est aussi le plus insidieux : l'hallucination. Interrogés pour « trouver » ou « citer » des références, les modèles de langage ne consultent pas une base de données, ils reconstituent statistiquement ce à quoi une citation plausible devrait ressembler. Pour un sujet pointu ou récent, ils fabriquent alors de toutes pièces des titres, des noms de revues et même des DOI crédibles mais inexistants.

Les chiffres donnent le vertige. Une étude sur GPT-4o a montré que ChatGPT invente environ 20 % des citations académiques qu'il produit et introduit des erreurs dans 45 % des références pourtant réelles. Surtout, ces fabrications se retrouvent désormais dans la littérature publiée. Un audit de 2,5 millions d'articles a identifié près de 146 900 fausses citations générées par IA pour la seule année 2025. Une analyse relayée par STAT montre une progression fulgurante : un article sur 2 828 contenait au moins une référence fabriquée en 2023, contre un sur 458 en 2025, et un sur 277 sur les premières semaines de 2026.

Même les enceintes les plus sélectives ne sont pas épargnées. À NeurIPS 2025, l'une des plus prestigieuses conférences d'intelligence artificielle, au moins 100 citations hallucinées ont été confirmées dans 53 articles acceptés, soit environ 1 % des travaux retenus, malgré une relecture réputée exigeante. Quand une citation sert de preuve, une source inventée n'est plus une simple maladresse : elle relève de la fraude scientifique.

Uniformisation, plagiat et fuite de données

Au-delà des références fantômes, l'IA générative fait peser d'autres menaces plus diffuses. La première est l'uniformisation de la pensée : en s'appuyant sur des modèles entraînés sur l'existant, les chercheurs risquent de rester cantonnés aux sentiers déjà bien balisés, au détriment de l'exploration hors des cadres établis. Ce lissage se lit jusque dans le vocabulaire des publications, comme le raconte notre article « Quand l'IA déteint sur le langage des chercheurs ».

La détection, ensuite, tourne au casse-tête. Les textes générés restent, à ce jour, impossibles à distinguer automatiquement de ceux rédigés par des humains. Certains marqueurs trahissent malgré tout le procédé : l'outil Problematic Paper Screener a repéré des dizaines de milliers d'articles truffés d'« expressions torturées », ces synonymes maladroits (« intelligence contrefaite » pour « intelligence artificielle ») produits par des paraphrases automatiques destinées à masquer un plagiat.

Reste enfin la question de la confidentialité. Soumettre un manuscrit non publié, des données de patients ou des résultats sensibles à un service hébergé dans le cloud revient à en confier le contenu à un tiers, avec le risque qu'il alimente l'entraînement de futurs modèles. Pour la recherche médicale ou industrielle, l'exposition peut être lourde de conséquences.

L'évaluation par les pairs sous pression

Le maillon le plus fragile pourrait bien être l'évaluation par les pairs, cœur du contrôle qualité de la science. Tentés de gagner du temps, certains relecteurs confient à un chatbot la rédaction de leurs rapports. Or les éditeurs signalent une multiplication des évaluations produites par IA, en contradiction avec les règles des revues.

Le Committee on Publication Ethics (COPE), référence mondiale en déontologie éditoriale, est catégorique : les relecteurs et éditeurs ne doivent pas recourir à l'IA générative pour produire des rapports d'évaluation, des appréciations éditoriales ou des décisions de publication. Déléguer un jugement scientifique à un outil qui ne peut ni comprendre ni assumer la responsabilité de ses conclusions vide l'exercice de son sens, tout en exposant le manuscrit confidentiel qu'il contient.

Des règles qui se cherchent encore

Face à ce paysage mouvant, les institutions tentent de poser des garde-fous. COPE a fixé une ligne devenue quasi universelle : un outil d'IA ne peut pas être auteur d'un article, faute de pouvoir endosser la responsabilité du travail, gérer les conflits d'intérêts ou signer les cessions de droits. En contrepartie, les chercheurs qui y ont recours doivent le déclarer explicitement, en précisant quel outil a été utilisé et comment, dans la section « matériel et méthodes ».

Les grandes revues et les grands éditeurs ont emboîté le pas avec leurs propres chartes, tandis que des consortiums de financeurs comme cOAlition S inscrivent désormais l'intégrité et la fiabilité face à l'IA parmi leurs priorités stratégiques. Le mouvement reste toutefois inégal : les seuils de déclaration varient d'une revue à l'autre, et la frontière entre simple aide et véritable délégation de l'acte scientifique demeure floue.

Préserver la confiance, un enjeu qui dépasse les labos

Au bout de la chaîne, c'est la confiance du public envers la science qui est en jeu, à un moment où elle est déjà fragilisée : en France, le climatoscepticisme atteint 32 % de la population selon l'article source. Une recherche minée par des références inventées ou des évaluations automatisées offrirait un terrain rêvé au scepticisme.

Les pistes avancées convergent : élaborer des directives claires et partagées, imposer la transparence de tout usage, réserver aux relecteurs des systèmes locaux non connectés plutôt que des services cloud, et surtout ouvrir une réflexion collective et internationale. Car aucune charte ne remplacera le discernement des chercheurs eux-mêmes. Comme dans bien d'autres domaines, le vrai défi consiste à continuer à penser par soi-même — d'autant plus que la recherche publique traverse déjà une double fragilisation, financière et politique, qui la rend d'autant plus dépendante de sa crédibilité. L'IA générative peut rester un allié précieux, à condition qu'elle demeure un outil au service de la rigueur, et non un raccourci qui l'érode.