L'IA, une machine à biais ? Comment l'intelligence artificielle renforce les stéréotypes
L’intelligence artificielle générative a tendance à renforcer les biais et stéréotypes comme le sexisme ou le racisme. Crédit : Lexica.art
Publié par Florence Santrot | Mis à jour le
Les modèles d’IA générative renforcent les biais, stéréotypes et préjugés de nos sociétés. Mais l’intelligence artificielle ne fait que reproduire notre propre vision du monde.
Racisme, sexisme, préjugés culturels ou de classe… l’intelligence artificielle a tout pour plaire. Récemment, le site Rest of World a analysé pas moins de 3 000 images générées par IA. Objectif : constater ou non la présence de biais dans les images générées. Avant lui, Bloomberg en avait scrutées 5 000 et était arrivé à la même conclusion. Que ce soit Midjourney, Dall-E 3, Stable Diffusion, LAION… le constat est sans appel – et peut être réitéré à loisir – les stéréotypes ont la vie dure. Et c’est notre faute.
Il faut en effet faire un pas de côté pour mieux comprendre l’origine du problème. Les IA génératives, c’est-à-dire les intelligences artificielles capables de créer in extenso des images suite à une simple commande écrite. Il suffit de taper “homme mexicain”, “femme noire” ou “couple séduisant” pour que ces IA génèrent à la volée des images (dessins, photos, peintures…) répondant à cette directive. Mais la représentation donnée est problém
Déjà abonné(e) ? Activez votre compte ou connectez-vous en un clic.
Je continue