Épisode 72 – Caroline met en lumière les biais d’âge des IA génératives
Les biais sexistes et racistes de l’intelligence artificielle générative sont désormais bien cernés. Open AI, à l’origine de Chat GPT, s’efforcerait même de forcer l’apparition de la diversité afin de débiaiser ses algorithmes.
Avec quel succès ?
J’ai eu la chance, par l’intermédiaire de Caroline Guimard, de faire la connaissance de Caroline Jean-Pierre, actuellement experte indépendante en sciences de données.
Fervente défenseure de l’inclusion et de l’équité, elle a rejoint l’équipe de direction de Data for Good, une association de 4000 chercheurs bénévoles qui travaillent sur des thématiques environnementales au profit d’associations et d’ONG.
Dans ce cadre, elle a participé à la rédaction du livre blanc « Les grands défis de l’intelligence artificielle (IA) générative » publié en 2023.
Sa contribution est remarquable car elle a choisi d’étudier les biais d’âgisme qui, justement, sont généralement passés sous silence.
Dans cet épisode, elle revient sur les raisons qui l’ont conduite à s’intéresser à cette discrimination qu’elle qualifie de « décomplexée ».
Elle nous présente les recherches qu’elle a menées pour analyser les biais algorithmiques âgistes, à partir de 2000 images générées par l’application Dall-E.
Ses observations sont sans appel. L’IA est une fabrique à biais.
Elle nous en explique les raisons :
Les algorithmes des IA génératives sont conçus à partir de jeux de données qui ne sont pas représentatifs de la diversité humaine et culturelle.
Ils reconduisent les stéréotypes qui circulent dans nos sociétés.
Les développeurs sont en très grand majorité des hommes jeunes.
Dans sa conclusion, elle en appelle à la sensibilisation aux biais des concepteurs et utilisateurs, ainsi qu’à la mobilisation d’êtres humains qui seront chargés de vérifier et d’évaluer la pertinence des réponses apportées.
REFERENCES
Les grands défis de l’IA générative
Harvard Business Review France Lutter contre la discrimination des seniors à l’ère de l’IA, un enjeu économique
Jeu Bataille de l’intelligence artificielle
Heetch tacle les clichés sur la banlieue en incitant Midjourney à corriger son IA… avec des cartes postales.