Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

Contrepoints

Le carnet du master « Sciences-société » - Université de Strasbourg

Sexisme, jeu vidéo et IA : le problème avec le deep learning

par · Publié · Mis à jour

Depuis son arrivée, ChatGPT a montré son fort potentiel. Pourtant, malgré tous les efforts déployés pour perfectionner les réponses du chatbot, des biais persistent, et j’ai pu en faire l’expérience.

Rappels utiles

Comme évoqué dans mon autre billet, les IA sont porteuses des mêmes biais que ceux des corpus sur lesquelles elles sont entraînées. Les biais de genre (mais aussi raciaux, sociaux etc.) sont ainsi malheureusement monnaie courante parmi ces machines, et se ressentent dans de nombreux aspects de leur champ d’utilisation. Ces biais de genre se font majoritairement au détriment des femmes, puisque nous sommes moins présentes dans les secteurs de développement de ces IA, et même dans le numérique de manière générale (bien que des améliorations soient à constater). 

ChatGPT, comme tant d’autres IA, a eu du contenu Internet dans la base de son corpus d’apprentissage : discussion sur des forums, articles, sites web… Des milliards de mots pour rendre ses réponses convaincantes (et la plupart du temps, elles le sont). 

La réponse de ChatGPT quant à son corpus d’apprentissage

Je l’avais évoqué dans mon premier billet, et ChatGPT le mentionne en sous texte ici, des efforts ont été faits avant la mise en public du chatbot pour le rendre le moins toxique possible et tenter de le débarrasser des réponses inconvenantes, biaisées, fausses qu’il pouvait fournir, notamment par le biais de “travailleurs du clic” sous payés. Cependant, et c’est inévitable dans un corpus aussi large, des biais demeurent, nous l’avons vu. 

Sexisme expérimenté

L’idée de ce billet m’est ainsi venue le jour où, demandant par curiosité à l’IA “Quel rôle jouer sur League of Legends quand on est débutante ?”, sa première réponse fut de me dire de jouer “Support”. Grandement impliquée dans la communauté e-sport du MOBA, je ne suis pas étrangère au cliché qui voudrait que “les filles ça joue support”. Le Support est l’un des 5 rôles dans une équipe de League of Legends. Sur le site de l’éditeur du jeu, Riot Games, il est ainsi décrit que “Les supports sont les gardiens de l’équipe. Ils maintiennent leurs équipiers en vie et cherchent principalement à faciliter l’élimination des ennemis, tout en protégeant leur partenaire de la voie du bas jusqu’à ce qu’il devienne suffisamment puissant.”. Piquée dans ma curiosité, j’ai ainsi posé la même question au chatbot, mais en tournant cette fois le genre de ma phrase au masculin. La réponse du tchat a changé, me conseillant alors en premier lieu de jouer ADC (pour Attack Damage Carry, un rôle dont la puissance augmente au fur et à mesure de la partie). Les biais présents dans le corpus ont, d’après OpenAI, été majoritairement éliminés. Comment alors expliquer cette différence dans les réponses du robot ? Les pistes pour répondre sont multiples.

Déjà, on peut tout simplement prendre en compte la taille du corpus : plusieurs milliards de mots dans des dizaines de langues, ce n’est pas intégralement “filtrable” à échelle humaine. On se doute donc que l’accent a pu être mis sur des réponses autour de problématiques plus sensibles, plus flagrantes, mais que le sexisme ordinaire dans le jeu vidéo a pu quelque peu passer à la trappe. Ce genre de biais sera probablement amené à disparaître au fil de l’utilisation et du perfectionnement des robots conversationnels, mais tout cela prend du temps. 

Ensuite, nous l’avons dit, ChatGPT fonde son corpus entre autres sur des discussions de forums en ligne. Arrêtons nous un court instant sur ceux-ci. Le plus célèbre d’entre eux en France autour du thème des jeux vidéos est sans aucun doute www.jeuxvideo.com, fréquemment abrégé en JVC. L’ambiance générale de ce forum est, à mon goût, un peu trop mauvaise, parfois à la limite du malveillant. Puisqu’une image vaut mille mots, je me permets de vous joindre en illustration le genre de réponses qui peuvent être écrites sur le forum lorsque l’on mentionne les filles et leur prétendu seul rôle de Support sur League of Legends : 

 

 

 

 

 

 

 

 

 

 

On notera la solidité des arguments employés… 

Ce genre de réponses a ainsi totalement pu faire partie du corpus de ChatGPT (qui je le rappelle s’arrête en 2021 : les articles récents mettant à l’honneur les femmes dans le jeu vidéo n’ont ainsi pas pu être pris en compte). C’est là qu’intervient un autre problème des corpus constitués sur des discussions sur Internet : le trolling. Je reste ainsi convaincue que certain.es utilisateurs.ices du forum trollent lorsqu’ils.elles disent que les filles ne jouent que Support pour telle ou telle raison (ou du moins je l’espère sincèrement). Mais ça, l’IA qui apprend ou les modérateurs pas forcément familiers de la pratique ne peuvent pas s’en rendre compte, et peuvent ainsi prendre ce genre de discours pour des vérités, des faits. Le robot peut ainsi apprendre, sur ce genre de forums mais également via des articles fort peu sourcés, que les filles jouent majoritairement Support sur le jeu. 

Non, on ne joue pas que Support

Mais ce genre d’assertions est faux : les filles ne jouent pas que Support (et encore moins pour les raisons apportées par les utilisateurs.ices de JVC). Je voulais dans un premier temps illustrer ce fait par des statistiques de répartition des rôles entre les genres des joueurs. Après des heures de recherches, je me suis rendue compte d’un point fondamental : ces statistiques n’existent pas. Et même plus que ça : elles pourraient difficilement exister, puisque Riot Games, l’éditeur du jeu, ne demande pas le genre des joueurs lors de la création des comptes. Les seuls chiffres disponibles sont ainsi une répartition des genres parmi les joueurs de manière générale, qui indiquent que les femmes représenteraient environ 10% de la communauté du jeu. Les autres chiffres autour du jeu ont été majoritairement récoltés sur des forums, notamment Reddit, via des sondages dont les échantillons étaient forcément biaisés, rendant ces chiffres peu recevables. 

ChatGPT n’a donc probablement pas de statistiques sur les rôles des femmes dans le jeu. Face à ce manque, et en mélangeant ce qu’il sait sur le jeu avec ce qu’il a pu lire sur les femmes et LoL sur Internet, on comprend que la réponse du robot puisse être biaisée. Ce biais est d’autant plus insidieux que, lorsque l’on pose au tchat la question “Quel rôle jouent les filles dans League of Legends ?”, sa réponse est vraiment tournée dans un sens très inclusif : 

La réponse de ChatGPT

Idem lorsqu’on lui demande de développer : 

Le développement de ChatGPT

On voit dans ces réponses que les biais trop présents, trop violents ont bel et bien été effacés du corpus, mais que sous leurs formes les plus insidieuses, les plus diluées, on peut encore y être confronté.e, et ce fut mon cas ce jour-là. C’est là le problème du deep learning, le modèle d’apprentissage de ChatGPT : à apprendre de tout et n’importe quoi, on peut apprendre tout et n’importe quoi. 

 

Bibliographie

OpenEdition vous propose de citer ce billet de la manière suivante :
Caroline Conrad-Boisnier (4 septembre 2023). Sexisme, jeu vidéo et IA : le problème avec le deep learning. Contrepoints. Consulté le 22 janvier 2025 à l’adresse https://doi.org/10.58079/ragp

Étiquettes :

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.