Images et fraudes : l’IA, capable de tromper la science ?

Les intelligences artificielles (IA) s’attaquent déjà à l’art, mais qu’en est-il des images scientifiques ? Accessible à tous, vont-elles devenir un nouvel outil pour la fraude scientifique ?

Des noms comme ChatGPT, DALL-E ou encore Midjourney vous sont peut-être familiers. Ce sont des Intelligences Artificielles (IA) capables de générer du texte ou des images. En effet, les IA vont produire des images à partir de mots ou de phrases donnés par l’utilisateur. Il est désormais possible à n’importe qui d’en générer et de la diffuser. Des photos, des peintures, des dessins…, Rien ne leur échappe. Certains artistes, animateurs, mais aussi journalistes [insérer lien vers l’article de Marine?] sont divisés par le sujet. Des films d’animation ont déjà été produits par des IA et ont suscité des avis mitigés. Leur travail est-il réellement en danger ? Ou bien les IA peuvent-elles être des outils permettant à chacun de donner naissance à des créations, sans nécessiter de formation dans le domaine ?

Qu’en est-il des images scientifiques ?

En science, les images sont censées être le reflet de la réalité. La fraude d’images scientifiques est déjà connue dans le milieu. Les plus communes sont celles de la reproduction, de la réutilisation, du plagiat¹… En sachant que les recherches des scientifiques se basent sur des travaux précédents, que se passerait-il si le fondement s’avère être une fraude ? Un exemple est celui des recherches sur l’Alzheimer. Une enquête de Science publiée en juillet 2022, révèle des fraudes et des manipulations dans des études menées par Sylvain Lesné. Au centre de cette affaire, des travaux de 2006, sur Aβ*56, une protéine, qui provoquerait des troubles de la mémoire une fois injectée à des rats. Des images auraient été utilisées plusieurs fois pour différents articles. Des manipulations comme des duplications d’une partie d’image auraient aussi été effectuées. Voici un extrait de l’article avec l’image en question² :

Certains analystes ont estimé qu’elle invalide des années de recherche en la matière de même que des milliards de dollars d’investissement. Cependant, les recherches sur l’Alzheimer ne reposent pas sur une seule théorie et des recherches sur cette affaire sont toujours en cours.

Et les IA dans tout ça ?

Si les fraudes scientifiques ont déjà existé sans l’utilisation d’IA, l’émergence de ces technologies introduit de nouveaux outils en matière de falsification. La science se doit de rester vigilante et de continuer à développer des outils performants pour détecter ces fraudes et préserver l’intégrité de la recherche. Dans un article³ publié par Pattern, les scientifiques se questionnent déjà sur les dérives de l’utilisation d’images générées par des IA et sur les moyens de les détecter. Ils utilisent une technique d’IA appelée GAN pour Generative Adversarial Network⁴. Elle permet de créer des imitations d’images existantes. Ce système repose sur une compétition entre un « générateur » et un « discriminateur ». Le générateur et le discriminateur forme une boucle : une image est générée par l’un puis vérifiée par l’autre et ainsi de suite. Le but du générateur est de créer des images dont l’authenticité est de plus en plus difficile à déterminer, tandis que le discriminateur devient plus performant pour détecter les images fausses. Par ce jeu de création-vérification, l’imitation devient de plus en plus convaincante.

Voici une image extraite de la publication : en vert l’image originale et en rouge des images générées à partir de la première. Ces images échappent aux méthodes de détection de duplication traditionnelles qui se basent sur la comparaison des détails, car elles présentent des détails locaux totalement distincts :

J’ai tenté l’expérience…

Je me suis prêtée au jeu et j’ai essayé de réutiliser des instructions (prompt) d’un article⁵ pour voir si j’obtenais des résultats similaires. J’ai cependant utilisé DALL-E car je n’avais pas accès à Midjourney du fait de l’affluence.

*Un western blot est une technique de laboratoire utilisée pour détecter et analyser des protéines spécifiques dans un échantillon biologique.

La première image de la figure A semble représenter un western blot authentique, tandis que les autres propositions apparaissent floues ou ne correspondent pas à un western blot.

Pour le deuxième essai, j’ai choisi de prendre un animal afin de faciliter la compréhension du résultat obtenu.

On remarque que cette fois-ci, les images générées par l’IA ne correspondent pas exactement à une moule réelle. L’aspect général est assez ressemblant mais l’intérieur ne correspond pas, de plus, les annotations sont illisibles.

Les avancées dans le domaine de l’intelligence artificielle ont ouvert de nouvelles perspectives en ce qui concerne la génération d’images en art et en science. La production d’image est désormais accessible à tous même si, en fonction des IA utilisées, les conditions d’utilisation peuvent être limitées. L’émergence de nouvelles technologies est toujours accompagnée de détournement ou de mauvaises utilisations. Les questionnements sur la réglementation voire sa restriction ne doivent pas être pris à la légère. Les IA peuvent être des outils puissants, mais ils doivent être utilisés avec prudence et éthique dans le domaine des images scientifiques. La transparence, la validation et l’intégrité scientifique doivent être maintenues et renforcées pour garantir la confiance dans les résultats et éviter les manipulations frauduleuses.

Crédit photo :

• Image immunohistochimie :  Jinjin Gu, Xinlei Wang, Chenang Li, Junhua Zhao, Weijin Fu, Gaoqi Liang, Jing Qiu, 2022, AI-enabled image fraud in scientific publications, Pattern, vol.3, 7.
• Image western blot : Andreas Vigelsø, Rie Dybboe, Christina Neigaard Hansen, Flemming Dela, Jørn W. Helge and Amelia Guadalupe Grau, 2014, GAPDH and β-actin protein decreases with aging, making Stain-Free technology a superior loading control in Western blotting of human skeletal muscle,Journal of Applied Physiology, vol.118, 3.
• Image issue de la publication de science : Charles Piller, 2022, Blots on a field?, Science, Volume 377.
• Dessin d’observation de la moule : Bachelot Morgane, 2010, Contamination de moules (Mytilus sp.) en milieu marin par des substances pharmaceutiques et produits de soin, Université Montpellier 1
• Images générées par DALL-E

En savoir plus :

• Podcast sur la fraude dans les recherches sur l’Alzheimer avec le point de vue d’un sociologue Yves Gingras : Une fraude qui fait reculer la recherche sur l’alzheimer, vraiment?, 2022, https://ici.radio-canada.ca/ohdio/premiere/emissions/les-annees-lumiere/segments/entrevue/410487/alzaheimer-recherches-fraude-financement-lesne

–

1. Elisabeth M. Bika, Arturo Casadevallb, Ferric C. Fang, 2016, The Prevalence of Inappropriate Image Duplication in Biomedical Research Publications, mBio, vol.7, 3. [↩]
2. Charles Piller, 2022, Blots on a field?, Science, Volume 377. [↩]
3. Jinjin Gu, Xinlei Wang, Chenang Li, Junhua Zhao, Weijin Fu, Gaoqi Liang, Jing Qiu, 2022, AI-enabled image fraud in scientific publications, Pattern, vol.3, 7. [↩]
4. Ian Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio, 2014, Generative Adversarial Networks, Département d’informatique et de recherche opérationnelle Université de Montréal. [↩]
5. Michael Cammer, 2023,Too bad to be fraud, Midjourney has yet to embark in science, bioRxiv, https://doi.org/10.1101/2023.01.28.526052, consulté le 28/04/2023 [↩]

---

---