ChatGPT, le mauvais élève qui pose plein de questions

Novembre 2022 : OpenAI lance sa nouvelle intelligence artificielle, et la révolution semble se mettre en marche. Les étudiant.es rejoignent le cortège et s’emparent immédiatement de ce nouvel outil. Mais avant de poser nos questions au robot, avons-nous réfléchi aux questions qu’il soulève ?

Comment ça marche ?

Au cours d’une table ronde organisée le 9 Février 2023, des enseignants et enseignantes chercheurs de la francophonie ont pu discuter de l’impact et des enjeux inhérents à l’arrivée de ce nouvel outil dans les salles de cours, accessible au public depuis Novembre 2022 . Pierre-Carl Langlais, chercheur en humanités numériques au laboratoire OpSci, commençait par rappeler les grands principes de fonctionnement de ChatGPT. Pour ne pas entrer trop dans les détails techniques, retenons simplement que ChatGPT est un robot de discussion très convaincant, qui a appris sur un corpus de près de 500 milliards de mots, couvrant jusqu’à la fin 2021. 

Ses connaissances fondamentales s’arrêtent donc à cette date, mais il continue d’apprendre depuis ! ChatGPT est en effet équipé d’un système de feedback : pour chaque réponse, l’utilisateur peut faire part de son retour sur ladite réponse, en faisant remonter à l’entreprise que celle-ci est fausse, incomplète, irrespectueuse… Peut-être vous rappelez-vous de Tay, le chatbot de Microsoft rendu disponible en 2016, qui avait défrayé la chronique en tenant des propos extrêmement discriminatoires en très peu de temps. Pour éviter que cela ne se reproduise lors de sa mise en public, de nombreux “travailleurs du clic”, au Kenya notamment, ont permis de rendre ChatGPT le moins controversable possible, via ce système de feedback. Le robot est ainsi entraîné à ne pas donner de réponse raciste, sexiste, à ne pas aborder les sujets religieux…  Cependant, et ce point était souligné par la chercheuse en informatique Salima Lamsiyah, des biais persistent dans les réponses du chat. Ainsi, si on lui demande de traduire “a doctor, a nurse”, il répondra “un docteur, une infirmière”. Cet exemple met en évidence un des premiers défauts de l’outil, à savoir que si son corpus porte un biais (sexiste, par exemple), ses réponses le porteront aussi. 

Un usage limité pour l’université

Si durant cette table ronde tout le monde s’accordait pour reconnaître que le chat est bon pour les connaissances générales, tout le monde s’accordait également pour souligner ses limites dès lors que sont attendues des compétences ou connaissances plus précises. Ce qui ressortait de la discussion entre ces chercheurs et chercheuses était la variabilité des compétences de l’outil en fonction des champs disciplinaires. S’il peut être bon en maths ou en programmation informatique, ChatGPT est assez mauvais en Sciences Humaines et Sociales, comme le soulignaient les historiens Caroline Muller et Frédéric Clavert. Ces sciences ne cherchant pas à établir des lois ou des généralités, le logiciel a du mal à produire quelque chose de solide avec les données dont il dispose.

De plus, et c’est là un des principaux problèmes, ChatGPT est incapable de citer des sources. Pire que cela, il va jusqu’à en inventer, en croisant les éléments de son corpus pour fabriquer quelque chose de plausible. Cette lacune réduit alors drastiquement ses possibilités d’utilisation en milieu universitaire, où la bibliographie et les sources sont reines.

Loin de “l’outil miracle”

D’autres spectateurs de la table ronde, ainsi que Frédéric Clavert, soulevaient également la question de la recherche de l’information par les étudiants. À l’heure où des moteurs de recherche très répandus, comme Google, sont en fait devenus des moteurs de réponse, les professionnels des sciences documentaires et les enseignants de manière générale insistent sur la nécessité de rappeler aux élèves l’importance de la recherche de la source et de la construction de la réponse. On ne peut se contenter de l’encadré proposé par Google ou des quelques lignes fabriquées par le chat : il faut chercher, approfondir, croiser les sources, et ne jamais se fier à un seul résultat. 

C’est d’ailleurs ce que nous pouvons, à mon sens, tirer de cette table ronde. S’il ne faut évidemment pas avoir peur de ChatGPT, qui ne reste qu’un algorithme très doué pour agencer des mots, il va devenir capital pour les enseignants d’apprendre aux élèves à se servir de cet outil, comme il était capital d’apprendre à se servir de Wikipédia il y a quelques années. Malgré son apparente neutralité, ChatGPT présente encore de nombreux biais et défauts, et bien qu’il ait le potentiel d’être un outil surpuissant, il reste encore largement à perfectionner sur de nombreux points. Les participants de la table ronde semblaient tous et toutes aller dans ce sens : apprendre aux étudiants à se servir correctement de ChatGPT, et rappeler une fois encore l’importance de la solidité des sources pour construire un propos. L’esprit critique est capital. 

D’autres questions ont fait surface au cours de cette table ronde : questions philosophiques autour de la construction de nos savoirs et du rôle qu’y joue le langage, notre anthropomorphisation du robot (certains se sont peut-être surpris à lui dire “merci” ou “s’il te plaît”) et les questions qui l’accompagnent, mais aussi la nécessité pour les enseignants de repenser certains de leurs exercices et ce qu’ils et elles cherchent réellement à évaluer chez leurs élèves… Et à tout cela s’ajoutent les problématiques de plagiat, de propriété intellectuelle, de droit d’auteur qui vont de paire avec toutes les nouvelles intelligences artificielles et leurs bases de données. Mais surtout, et peut-être ce point vous est-il venu à la lecture de ce billet, ChatGPT pose de nombreuses questions éthiques : OpenAI est une entreprise américaine privée, qui récolte une immense quantité de données plus ou moins personnelles et enregistre toutes les requêtes qui sont adressées à son robot, en plus d’utiliser des travailleurs sous-payés (voire pas payés du tout, c’est-à-dire les utilisateurs, via le système de feedback) pour faire progresser son I.A.. Dans un monde “tout-numérique” où la possession de données est clef, il me semble important de garder à l’esprit les vastes et complexes enjeux qui entourent ChatGPT. 

Bibliographie



Citer ce billet
Caroline Conrad-Boisnier (2023, 17 juillet). ChatGPT, le mauvais élève qui pose plein de questions. Contrepoints. Consulté le 27 mai 2024, à l’adresse https://doi.org/10.58079/ragb

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search