À mesure que les systèmes d’intelligence artificielle s’intègrent de plus en plus profondément dans notre vie quotidienne, un problème inquiétant est devenu évident : le biais algorithmique.
Malgré la perception répandue selon laquelle les machines sont impartiales et objectives, la réalité est très différente. Les erreurs systématiques dans les données d’entraînement peuvent être transférées directement à nos applications.
Par conséquent, le Développement de logiciels et l’Intelligence artificielle doivent relever ce défi pour garantir que la technologie ne perpétue pas la discrimination ou les défauts logiques.
Cela soulève une question essentielle : comment les humains influencent-ils les biais de l’IA, et comment ces biais peuvent-ils ensuite influencer nos décisions ?
Qu’est-ce que les préjugés dans l’IA ?
En termes simples, les biais en IA font référence à des erreurs systématiques qui se produisent dans les processus ou les résultats d’un algorithme en raison d’une distribution inégale ou d’une concentration étroite sur les données utilisées pour l’entraîner.
Ces biais ne sont pas des erreurs aléatoires, mais suivent plutôt des modèles prévisibles basés sur des facteurs tels que le sexe, la race, l’âge ou le statut socio-économique des personnes incluses (ou exclues) dans les ensembles de données.
Principales sources de biais
Données non représentatives
Les algorithmes sont formés sur de grands volumes de données historiques, reflétant les décisions humaines passées, mais si ces données sont biaisées, l’algorithme répliquera et amplifiera ces erreurs.
Par exemple, dans le domaine médical, si un système d’IA est formé avec des données provenant de patients issus d’une population majoritairement blanche, ses prédictions peuvent ne pas être aussi précises pour les patients d’autres ethnies, ce qui peut conduire à des diagnostics erronés ou inexacts.
Un cas notable est celui d’un algorithme utilisé aux États-Unis pour prioriser les soins médicaux, qui sous-estimait la gravité des besoins de santé des patients noirs.
En effet, les données de formation étaient basées sur les coûts médicaux antérieurs et les patients noirs ont tendance à dépenser moins en soins de santé en raison des disparités systémiques.
Sélection biaisée des fonctionnalités
Des biais peuvent également survenir lors de l’étape de sélection des caractéristiques, qui fait référence aux variables que les concepteurs de systèmes d’IA jugent pertinentes pour le modèle.
Parfois, les caractéristiques sélectionnées peuvent être influencées par des stéréotypes sociaux.
Par exemple, dans le cas des systèmes de recrutement AI, l’utilisation de caractéristiques telles que l’école d’origine ou l’adresse de résidence peut conduire à un biais indirect en faveur des candidats issus de milieux moins favorisés.
Un exemple récent ; Amazon a développé un système de recrutement qui, après une analyse des CV historiques, a pénalisé les femmes car les données alimentées étaient dominées par les CV des hommes.
Bien que l’algorithme n’ait pas activement sélectionné en fonction du sexe, il a indirectement appris à donner la préférence aux hommes sur la base de modèles antérieurs.
Préjugés culturels et sociaux
L’IA hérite également des préjugés culturels de la société. Parce que les algorithmes apprennent des données historiques générées par l’homme, ils reflètent les préjugés sociaux existants.
Si une IA est entraînée avec des données qui reflètent les inégalités structurelles dans la société, ces biais sont susceptibles d’être amplifiés dans les décisions futures de l’IA.
Un algorithme de reconnaissance faciale développé par IBM, Microsoft et d’autres a montré des erreurs importantes lors de la tentative d’identification des visages de femmes et de personnes à la peau foncée, ce qui a montré que les modèles avaient été formés principalement avec des images d’hommes blancs.
Ces erreurs non seulement perpétuent la discrimination dans des applications telles que le maintien de l’ordre, mais pourraient également renforcer des stéréotypes néfastes au niveau sociétal.
Biais dans les interactions humaines
Un aspect moins discuté, mais très pertinent, est la manière dont les préjugés de l’IA peuvent, à leur tour, influencer les préjugés humains.
Selon des études récentes, les professionnels qui travaillent avec des systèmes d’IA ont tendance à faire aveuglément confiance aux recommandations de la machine, même lorsqu’elles sont incorrectes.
Cela peut amener les gens à perpétuer et à accepter les préjugés issus des recommandations algorithmiques.
Dans une étude sur la prescription d’antidépresseurs, il a été observé que les médecins qui suivaient des recommandations incorrectes générées par l’IA étaient plus susceptibles de commettre des erreurs que ceux qui n’avaient pas reçu de telles suggestions.
Ce qui est alarmant, c’est que les médecins ont commencé à intégrer ces erreurs dans leur prise de décision, démontrant que l’IA peut non seulement hériter des préjugés humains, mais peut également les amplifier dans l’interaction humaine.
Conséquences des biais dans l’IA
Les conséquences des biais en matière d’IA peuvent être dévastatrices, en particulier dans des contextes à haut risque, comme la santé ou la justice. Un algorithme biaisé pourrait conduire à de graves erreurs médicales, à des décisions de justice injustes ou à des pratiques discriminatoires sur le lieu de travail.
De plus, ces préjugés peuvent avoir des effets à long terme, car ils peuvent façonner les décisions humaines basées sur des recommandations erronées.
En milieu clinique, par exemple, il a été démontré que les systèmes de diagnostic basés sur l’IA, malgré leur grande précision, échouent parfois dans des cas particuliers touchant certains groupes sous-représentés.
Cela peut conduire à des soins médicaux inégaux, où certains patients ne reçoivent pas un traitement approprié en raison d’un manque de représentativité des données sur lesquelles l’IA a été formée.
Comment atténuer les biais dans l’IA ?
Diversification des données
Il est crucial que les ensembles de données utilisés pour former les algorithmes incluent une représentation plus large et plus diversifiée de la population.
Cela peut contribuer à atténuer certains biais, même si cela ne les éliminera pas complètement. Il est encore plus important de valider ces modèles dans des situations réelles afin de garantir que les biais ne persistent pas.
Supervision humaine
Il est essentiel que les humains conservent un rôle actif dans la prise des décisions finales. Bien que l’IA puisse offrir des recommandations précieuses, les experts doivent être formés pour identifier les erreurs ou biais potentiels dans ces suggestions.
Cette surveillance est particulièrement importante dans les domaines où les erreurs peuvent avoir de graves conséquences.
Développement d’outils d’audit algorithmique
Actuellement, des outils sont en cours de développement pour permettre d’auditer les algorithmes afin d’identifier les biais.
Cela implique de revoir les processus de formation de l’IA et les résultats de ses décisions pour détecter et corriger les erreurs avant qu’elles ne soient appliquées dans des contextes réels.
L’IA n’est ni infaillible ni impartiale
Les biais dans l’IA représentent un problème complexe à plusieurs niveaux, découlant des données sur lesquelles elle est formée, mais qui peut également influencer la prise de décision humaine.
Une confiance excessive dans les recommandations de ces systèmes, associée à des données déséquilibrées ou non représentatives, peut conduire à la perpétuation et à l’amplification de préjugés dans divers domaines.
Il est donc essentiel que les concepteurs et les utilisateurs d’IA adoptent une approche critique et consciente, reconnaissant que ces technologies, bien que puissantes, ne sont pas infaillibles et, comme tout outil, peuvent refléter et perpétuer les préjugés humains si elles ne sont pas utilisées avec précaution.
This post is also available in: