IA : Faut-il tiquer sur le sujet de l’éthique ? 

Quelle objectivité pour l’intelligence artificielle (IA) alors qu’elle prend de plus en plus de place dans nos usages numériques ? Faut-il avoir peur que ce nouvel outil, dépeint comme révolutionnaire, reproduise les discriminations  déjà existantes dans notre société ? Cet article, sur la base d’une étude parue dans le magazine Statistique et Société, se propose de faire le point sur les algorithmes concernés et sur les mesures prises par nos gouvernements face aux problèmes naissants de cette technologie nouvelle. 

De quelle IA parle-t-on et pourquoi ? 

Quand on parle d’IA du quotidien, on parle d’un modèle algorithmique d’apprentissage statistique (assistance des diagnostics médicaux, détection des fraudes, langages génératifs, …). Ce modèle a pour principe de formuler des règles de décision en partant de l’analyse d’une base de données (par exemple des données personnelles) en recherchant les régularités. L’objectif de cette recherche est de formuler ce que l’on appelle des règles de décision. Ces règles, difficiles à interpréter, font appel à des schémas complexes (comme les réseaux de neurones par exemple). Néanmoins, leurs applications se retrouvent partout et sous différentes formes. Par exemple, elles définissent les seuils de risque à ne pas dépasser pour obtenir un crédit bancaire, ou encore formulent une probabilité de radicalisation chez un individu. 

Si ce modèle connaît un franc succès parmi les dispositifs algorithmiques de notre quotidien, il y a bien une raison. Sa popularité s’explique par la « datification » croissante de nos vies. L’utilisation permanente de nos écrans construit chaque jour une empreinte numérique de plus en plus forte pour les individus : cookies, likes, recherches, courriels, géolocalisation… Nos comportements deviennent mesurables et sont archivés en ligne. Les algorithmes disposent ainsi d’une matière première immense. Leur entraînement se fait sur un échantillon de ces données. Ainsi, les règles de décision formulées par les IA sont issues d’une vision statistique très fine de la société. C’est cette abondance qui, en théorie, implique une réduction des erreurs de prévision.

Les constructeurs mettent en avant un raisonnement qui nourrit l’espoir de décisions plus performantes et rationnelles, pourtant,  il subsiste une crainte légitime : celle de la reproduction des discriminations par l’utilisation de données elles-mêmes biaisées. On peut citer la controverse du logiciel COMPAS de 2016. Destiné à l’évaluation du risque de récidive dans le système carcéral américain,  les données comportaient des biais discriminatoires implicites. On a relevé par exemple un un traitement inéquitable des personnes afro-américaines sur la base de données historiques sur les risques de récidives. Ainsi l’enjeu éthique majeur ne vient pas de l’outil algorithmique, mais bien de sa base de connaissance.

La technologie plus rapide que le droit numérique

En matière de discrimination, la loi française par exemple, se veut précise et définit bon nombre de critères discriminatoires (genre, origine, âge, religion, …). Toutefois, dans l’univers numérique ces frontières juridiques demeurent floues. La discrimination par les algorithmes ne se fait pas de manière explicite et devient indirecte, rendant la preuve de son existence difficile. Il existe cependant la loi pour une République numérique (2016) qui permet un encadrement des algorithmes dans les décisions administratives du secteur public. Ce programme reste néanmoins incomplet car il ne s’applique pas dans les utilisations du secteur privé, où les individus sont soumis aux mêmes discriminations.  

Si la protection des individus s’est renforcée ces dernières années, la question dépasse largement ce seul cadre français. Pour prendre le chemin de la “loyauté” de l’IA, il faut en maîtriser les mécanismes. Il est souvent difficile pour les entreprises de rendre compte de l’explicabilité de la décision, c’est-à-dire le processus qui intervient entre les données traitées par le modèle et le verdict rendu. Cette opacité constitue un obstacle important pour les personnes ayant subi un préjudice. Pour répondre à cette difficulté, le rapport Villani (2018), qui a notamment inspiré et permis un nouvel investissement public à hauteur de 1.5 milliard d’euros sur le sujet (Le Figaro, 2018), préconisait la mise en place de dispositifs de traçabilité, comparables aux « boîtes noires » des avions, afin de conserver une trace des chemins empruntés depuis les données par les algorithmes. 

Du côté de l’Europe, le premier front est tenu par le RGPD (Règlement général sur la protection des données, 2018). Ce règlement renforce les droits des individus, impose des obligations de transparence et prévoit un droit à la contestation d’une décision automatisée. Si le RGPD soutient les individus, il ne permet aucune amélioration concernant les biais présents dans les données qui constituent l’une des principales sources d’inégalités dans les décisions automatisées.

La gouvernance éthique d’aujourd’hui serait pour demain ? 

Près de dix ans se sont écoulés depuis la parution de l’article dans Statistique et Société. En guise de solution proposée, les auteurs mettaient en avant l’idée de contre-pouvoirs afin de compenser les biais. Ils en appelaient à la responsabilité des entreprises, à l’amélioration des lois existantes mais aussi à l’intervention d’ONG afin de faire contre-poids dans la balance de la discrimination. Ainsi, l’articulation des différents acteurs sert de regard critique supplémentaire pour superviser des données qui sont difficiles à rendre objectives. Cette conclusion est toujours d’actualité. Depuis 2024, l’Union européenne a voté en faveur de l’adoption de l’AI Act (plus d’informations sur : www.vie-publique.fr ). Cette nouvelle réglementation vient s’ajouter au RGPD et constitue un nouveau cadre réglementaire, qui cette fois est spécialement dédié à l’intelligence artificielle. Elle permet de définir des niveaux de risques, afin de bannir des pratiques par l’intermédiaire de l’IA, notamment celles bafouant les droits humains et renforce le principe de transparence. 

Si nos gouvernants s’essaient à rattraper le retard juridique devant la croissance ultra-rapide des technologies, il faut garder à l’esprit que ce sont les machines qui sont faillibles. Pour l’instant il n’existe aucune réponse concrète pour résoudre le biais des données.  La recherche progresse vers des modèles plus explicables, robustes et respectueux de la vie privée, mais ces améliorations ne sont pas encore suffisantes devant la complexité croissante des systèmes d’IA. Il ne s’applique que sur les systèmes les plus simples, laissant les modèles les plus complexes œuvrer dans l’ombre. 

Bibliographie : 

Besse Philippe, Castets-Renard Céline, Garivier Aurélien. “L’IA du Quotidien peut-elle être Éthique ?”. In: Statistique et société, n°6, 2018. À propos de l’Intelligence Artificielle. pp. 9-31, dernière consultation le 12 février 2026 à l’adresse L’IA du Quotidien peut elle être Éthique ? – Persée

Ronfaut Lucie. “La France va investir 1,5 milliard d’euros pour l’intelligence artificielle d’ici 2022”. In: Le Figaro, 2018, dernière consultation le 1 mars 2026 à l’adresse https://www.lefigaro.fr/secteur/high-tech/2018/03/29/32001-20180329ARTFIG00287-la-france-va-investir-15-milliard-d-euros-pour-l-intelligence-artificielle-d-ici-2022.php

“Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL”, In : CNIL.fr, 2024, dernière consultation le 12 février 2026 à l’adresse Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL | CNIL

---

---