Épisode 72 –  Caroline met en lumière les biais d’âge des IA génératives

Les biais sexistes et racistes de l’intelligence artificielle générative sont désormais bien cernés. Open AI, à l’origine de Chat GPT, s’efforcerait même de forcer l’apparition de la diversité afin de débiaiser ses algorithmes.

Avec quel succès ?

J’ai eu la chance, par l’intermédiaire de Caroline Guimard, de faire la connaissance de Caroline Jean-Pierre, actuellement experte indépendante en sciences de données.
Fervente défenseure de l’inclusion et de l’équité, elle a rejoint l’équipe de direction de Data for Good, une association de 4000 chercheurs bénévoles qui travaillent sur des thématiques environnementales au profit d’associations et d’ONG.

Dans ce cadre, elle a participé à la rédaction du livre blanc «  Les grands défis de l’intelligence artificielle (IA) générative » publié en 2023.

Sa contribution est remarquable car elle a choisi d’étudier les biais d’âgisme qui, justement, sont généralement passés sous silence.

Dans cet épisode, elle revient sur les raisons qui l’ont conduite à s’intéresser à cette discrimination qu’elle qualifie de « décomplexée ».

Elle nous présente les recherches qu’elle a menées pour analyser les biais algorithmiques âgistes, à partir de 2000 images générées par l’application Dall-E.

Ses observations sont sans appel. L’IA est une fabrique à biais.

Elle nous en explique les raisons :

  •  Les algorithmes des IA génératives sont conçus à partir de jeux de données qui ne sont pas représentatifs de la diversité humaine et culturelle.

  • Ils reconduisent les stéréotypes qui circulent dans nos sociétés.

  • Les développeurs sont en très grand majorité des hommes jeunes.

Dans sa conclusion, elle en appelle à la sensibilisation aux biais des concepteurs et utilisateurs, ainsi qu’à la mobilisation d’êtres humains qui seront chargés de vérifier et d’évaluer la pertinence des réponses apportées.

REFERENCES

Les grands défis de l’IA générative

Harvard Business Review France Lutter contre la discrimination des seniors à l’ère de l’IA, un enjeu économique

Jeu Bataille de l’intelligence artificielle

Heetch tacle les clichés sur la banlieue en incitant Midjourney à corriger son IA… avec des cartes postales.