Cette semaine, l’UNESCO a dynamiquement initié le Réseau des femmes pour une IA éthique (Women4Ethical AI), en cohérence avec ses projets pour un cadre éthique mondial en intelligence artificielle. Cette plateforme collaborative innovante soutient les gouvernements et les entreprises dans leur quête d’égalité des genres lors de la création et du déploiement de l’IA. Les membres de cette plateforme participeront activement à la promotion des principes éthiques présents dans la Recommandation de l’UNESCO.
Tandis que les technologies numériques révolutionnent notre quotidien, les femmes demeurent sous-représentées dans la recherche et la conception de ces innovations. Leurs besoins et expériences sont souvent négligés par les créateurs, et les données utilisées pour développer l’IA présentent fréquemment des biais défavorables aux femmes et aux filles. À l’échelle mondiale, les femmes et les filles sont 25% moins enclines à profiter des technologies numériques pour des objectifs basiques, 4 fois moins aptes à programmer des ordinateurs et 13 fois moins susceptibles de déposer un brevet dans le secteur des TIC. De fait, l’UNESCO crée Réseau Femmes IA Éthique
Seulement 20% des employés techniques dans les entreprises d’apprentissage automatique, 12% des chercheurs en IA internationaux et 6% des développeurs de logiciels professionnels sont des femmes.
Audrey Azoulay, Directrice générale de l’UNESCO (Organisation des Nations unies pour l’éducation, la science et la culture), souligne l’urgence de rétablir l’équilibre entre les sexes dans l’IA, afin d’éviter des analyses biaisées et de créer des technologies qui répondent aux attentes et aux besoins de toute l’humanité.
7 Expertes IA Internationales de Renom pour une IA Éthique
L’UNESCO aborde le problème de l’égalité des genres en plaçant cette question au centre de sa Recommandation sur l’éthique de l’intelligence artificielle, premier instrument normatif mondial dans ce domaine, adopté à l’unanimité par 193 États membres en novembre 2021. Ce document offre un plan d’action concret pour les politiques nationales en matière d’IA, incluant les enjeux de l’égalité des genres dans tous les aspects de l’IA.
Pour accélérer la réalisation de cet objectif, l’UNESCO a lancé Women4Ethical AI, une plateforme collaborative aidant gouvernements et entreprises. Elle rassemble 17 expertes renommées du monde universitaire, de la société civile, du secteur privé et des organismes de régulation internationaux. Elles partageront leurs recherches et contribueront à l’élaboration d’un référentiel de bonnes pratiques. La plateforme promeut des algorithmes et des sources de données non discriminatoires et encourage la participation des filles, femmes et groupes sous-représentés dans l’IA.
Gabriela Ramos, Sous-Directrice générale de l’UNESCO pour les sciences sociales et humaines et coprésidente de la plateforme, affirme que ce réseau dynamique et engagé de femmes permettra d’accomplir des avancées significatives pour des résultats inclusifs et équitables en IA, conformément à la Recommandation de l’UNESCO sur l’éthique de l’IA.
Alessandra Sala, Directrice de l’IA et de la science des données chez Shutterstock et coprésidente de la plateforme, souligne l’importance de placer l’éthique et l’égalité au cœur des discussions sur la gouvernance de l’IA et de s’engager à mettre en œuvre des recommandations éthiques pour protéger les droits humains, les libertés fondamentales et la dignité humaine.
Parmi les moyens proposés pour garantir l’inclusion et l’autonomisation des femmes à chaque étape du développement de l’IA, on compte des allocations budgétaires et un soutien aux femmes dans le monde universitaire, la recherche et l’entrepreneuriat.
Données biaisées entraînent des résultats discriminants
Le développement, l’usage et la mise en place de systèmes d’IA peuvent reproduire et accentuer les préjugés de genre existants, voire en créer de nouveaux : le manque de diversité dans les données, les équipes de développement ou les méthodologies mène à des outils d’IA biaisés produisant des résultats discriminatoires. Ces résultats servent à prendre des décisions cruciales qui affectent la vie quotidienne des citoyens. Les diagnostics médicaux basés sur des données collectées exclusivement auprès d’hommes illustrent parfaitement l’impact négatif des données biaisées.