Images et fraudes : l’IA, capable de tromper la science ?

Les intelligences artificielles (IA) s’attaquent déjà à l’art, mais qu’en est-il des images scientifiques ? Accessible à tous, vont-elles devenir un nouvel outil pour la fraude scientifique ?

Des noms comme ChatGPT, DALL-E ou encore Midjourney vous sont peut-être familiers. Ce sont des Intelligences Artificielles (IA) capables de générer du texte ou des images. En effet, les IA vont produire des images à partir de mots ou de phrases donnés par l’utilisateur. Il est désormais possible à n’importe qui d’en générer et de la diffuser. Des photos, des peintures, des dessins…, Rien ne leur échappe. Certains artistes, animateurs, mais aussi journalistes [insérer lien vers l’article de Marine?] sont divisés par le sujet. Des films d’animation ont déjà été produits par des IA et ont suscité des avis mitigés. Leur travail est-il réellement en danger ? Ou bien les IA peuvent-elles être des outils permettant à chacun de donner naissance à des créations, sans nécessiter de formation dans le domaine ?

Qu’en est-il des images scientifiques ?

En science, les images sont censées être le reflet de la réalité. La fraude d’images scientifiques est déjà connue dans le milieu. Les plus communes sont celles de la reproduction, de la réutilisation, du plagiat1… En sachant que les recherches des scientifiques se basent sur des travaux précédents, que se passerait-il si le fondement s’avère être une fraude ? Un exemple est celui des recherches sur l’Alzheimer. Une enquête de Science publiée en juillet 2022, révèle des fraudes et des manipulations dans des études menées par Sylvain Lesné. Au centre de cette affaire, des travaux de 2006, sur Aβ*56, une protéine, qui provoquerait des troubles de la mémoire une fois injectée à des rats. Des images auraient été utilisées plusieurs fois pour différents articles. Des manipulations comme des duplications d’une partie d’image auraient aussi été effectuées. Voici un extrait de l’article avec l’image en question2 :

Certains analystes ont estimé qu’elle invalide des années de recherche en la matière de même que des milliards de dollars d’investissement. Cependant, les recherches sur l’Alzheimer ne reposent pas sur une seule théorie et des recherches sur cette affaire sont toujours en cours.

Et les IA dans tout ça ?

Si les fraudes scientifiques ont déjà existé sans l’utilisation d’IA, l’émergence de ces technologies introduit de nouveaux outils en matière de falsification. La science se doit de rester vigilante et de continuer à développer des outils performants pour détecter ces fraudes et préserver l’intégrité de la recherche. Dans un article3 publié par Pattern, les scientifiques se questionnent déjà sur les dérives de l’utilisation d’images générées par des IA et sur les moyens de les détecter. Ils utilisent une technique d’IA appelée GAN pour Generative Adversarial Network4. Elle permet de créer des imitations d’images existantes. Ce système repose sur une compétition entre un « générateur » et un « discriminateur ». Le générateur et le discriminateur forme une boucle : une image est générée par l’un puis vérifiée par l’autre et ainsi de suite. Le but du générateur est de créer des images dont l’authenticité est de plus en plus difficile à déterminer, tandis que le discriminateur devient plus performant pour détecter les images fausses. Par ce jeu de création-vérification, l’imitation devient de plus en plus convaincante.

Voici une image extraite de la publication : en vert l’image originale et en rouge des images générées à partir de la première. Ces images échappent aux méthodes de détection de duplication traditionnelles qui se basent sur la comparaison des détails, car elles présentent des détails locaux totalement distincts :

J’ai tenté l’expérience…

Je me suis prêtée au jeu et j’ai essayé de réutiliser des instructions (prompt) d’un article5 pour voir si j’obtenais des résultats similaires. J’ai cependant utilisé DALL-E car je n’avais pas accès à Midjourney du fait de l’affluence.

*Un western blot est une technique de laboratoire utilisée pour détecter et analyser des protéines spécifiques dans un échantillon biologique.

La première image de la figure A semble représenter un western blot authentique, tandis que les autres propositions apparaissent floues ou ne correspondent pas à un western blot.

Pour le deuxième essai, j’ai choisi de prendre un animal afin de faciliter la compréhension du résultat obtenu.

On remarque que cette fois-ci, les images générées par l’IA ne correspondent pas exactement à une moule réelle. L’aspect général est assez ressemblant mais l’intérieur ne correspond pas, de plus, les annotations sont illisibles.

Les avancées dans le domaine de l’intelligence artificielle ont ouvert de nouvelles perspectives en ce qui concerne la génération d’images en art et en science. La production d’image est désormais accessible à tous même si, en fonction des IA utilisées, les conditions d’utilisation peuvent être limitées. L’émergence de nouvelles technologies est toujours accompagnée de détournement ou de mauvaises utilisations. Les questionnements sur la réglementation voire sa restriction ne doivent pas être pris à la légère. Les IA peuvent être des outils puissants, mais ils doivent être utilisés avec prudence et éthique dans le domaine des images scientifiques. La transparence, la validation et l’intégrité scientifique doivent être maintenues et renforcées pour garantir la confiance dans les résultats et éviter les manipulations frauduleuses.

Crédit photo :

En savoir plus :



Citer ce billet
Camille Marfil (2023, 14 août). Images et fraudes : l’IA, capable de tromper la science ? Contrepoints. Consulté le 27 mai 2024, à l’adresse https://doi.org/10.58079/ragj

  1. Elisabeth M. Bika, Arturo Casadevallb, Ferric C. Fang, 2016, The Prevalence of Inappropriate Image Duplication in Biomedical Research Publications, mBio, vol.7, 3. []
  2. Charles Piller, 2022, Blots on a field?, Science, Volume 377. []
  3. Jinjin Gu, Xinlei Wang, Chenang Li, Junhua Zhao, Weijin Fu, Gaoqi Liang, Jing Qiu, 2022, AI-enabled image fraud in scientific publications, Pattern, vol.3, 7. []
  4. Ian Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio, 2014, Generative Adversarial Networks, Département d’informatique et de recherche opérationnelle Université de Montréal. []
  5. Michael Cammer, 2023,Too bad to be fraud, Midjourney has yet to embark in science, bioRxiv, https://doi.org/10.1101/2023.01.28.526052, consulté le 28/04/2023 []

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search