L\u2019intelligence artificielle\u2026 une th\u00e9matique tr\u00e8s en vogue et qui fait beaucoup parler d\u2019elle, dans des domaines de plus en plus vari\u00e9s, et la gouvernance des donn\u00e9es n\u2019en est pas \u00e9pargn\u00e9e\u00a0! Une science pluridisciplinaire qui consiste \u00e0 encadrer la collecte, le stockage, l\u2019utilisation et la s\u00e9curisation des donn\u00e9es, avec un accent particulier sur les droits et responsabilit\u00e9s d\u00e9cisionnelles (Abraham et al., 2019). L\u2019introduction de l\u2019IA dans ce processus permet de d\u00e9cupler les capacit\u00e9s d\u2019analyse, d\u2019automatisation et d\u2019optimisation. Par exemple, les mod\u00e8les d\u2019apprentissage automatique peuvent identifier des anomalies dans des flux massifs de donn\u00e9es ou optimiser la qualit\u00e9 des m\u00e9tadonn\u00e9es gr\u00e2ce \u00e0 des algorithmes de reconnaissance de motifs. D\u2019ailleurs, selon le rapport 2025 Outlook: Data Integrity Trends and Insights<\/a><\/em>, les investissements dans l\u2019IA pour la gestion des donn\u00e9es montrent d\u00e9j\u00e0 des r\u00e9sultats prometteurs. Une chose est s\u00fbre : l\u2019avenir de la gouvernance des donn\u00e9es sera intelligent… et automatis\u00e9 !<\/p>\n\n\n\n Source : https:\/\/www.precisely.com\/press-release\/precisely-welcomes-business-and-data-leaders-to-discover-latest-trends-in-data-integrity-and-boost-ai-readiness-at-trust-24<\/a><\/em><\/p>\n\n\n\n Mais cette technologie n\u2019est pas sans risque et d\u00e9fi\u00a0! Ces outils, qui promettent efficacit\u00e9 et pr\u00e9cision, entra\u00eenent \u00e9galement un certain nombre de risques importants. Et ces risques, on les trouve souvent l\u00e0 o\u00f9 on s\u2019y attend le moins: dans les donn\u00e9es elles-m\u00eames. Souvent imparfaites ou biais\u00e9es, elles peuvent produire des r\u00e9sultats injustes ou discriminatoires lorsqu\u2019elles sont analys\u00e9es par des mod\u00e8les d\u2019IA. Le projet de Joy Buolamwini baptis\u00e9e \u00ab\u00a0Gender Shades<\/a>\u00a0\u00bb a mis en \u00e9vidence un biais dans les algorithmes de reconnaissance faciale\u00a0en montrant que certaines compagnies sont nettement moins fiables pour reconna\u00eetre le visage des femmes \u00e0 la peau fonc\u00e9e que pour les hommes \u00e0 la peau claire.<\/p>\n\n\n\n Les biais dans l\u2019intelligence artificielle ne se limitent pas aux outils de reconnaissance faciale. Ils s\u2019invitent \u00e9galement dans les g\u00e9n\u00e9rateurs d\u2019images comme Midjourney, Stable Diffusion ou encore DALL\u00b7E 2. De nombreuses exp\u00e9riences<\/a> mettent en lumi\u00e8re ces d\u00e9rives et pointent du doigt \u00e0 quel point les IA sont promptes \u00e0 recycler les st\u00e9r\u00e9otypes sexistes et culturels et \u00e0 renforcer ces clich\u00e9s (Zhou et al. 2024). En guise de r\u00e9ponse et de protestation, une initiative a \u00e9t\u00e9 lanc\u00e9e par l\u2019\u00e9v\u00e9nement TEDxAmsterdamWomen<\/a> et la plateforme Ace<\/a> pour la cr\u00e9ation d\u2019un g\u00e9n\u00e9rateur d\u2019images en l\u2019honneur des femmes\u00a0!<\/p>\n\n\n\n![\"\"](\"https:\/\/campus.hesge.ch\/blog-master-is\/wp-content\/uploads\/2024\/12\/Trust24-social-main-1024x536.jpg\")
<\/figure>\n\n\n\nLa Face cach\u00e9e de l\u2019IA (ou quand IA recyclent les st\u00e9r\u00e9otypes)<\/strong><\/h2>\n\n\n\n