{"id":2095,"date":"2020-12-14T10:48:00","date_gmt":"2020-12-14T10:48:00","guid":{"rendered":"https:\/\/campus.hesge.ch\/blog-master-is\/?p=2095"},"modified":"2020-12-09T18:38:51","modified_gmt":"2020-12-09T18:38:51","slug":"les-algorithmes-miroirs-de-notre-societe%e2%80%8b","status":"publish","type":"post","link":"https:\/\/campus.hesge.ch\/blog-master-is\/les-algorithmes-miroirs-de-notre-societe%e2%80%8b\/","title":{"rendered":"Les algorithmes, miroirs de notre soci\u00e9t\u00e9\u200b"},"content":{"rendered":"

Vous \u00eates-vous d\u00e9j\u00e0 demand\u00e9 sur quels crit\u00e8res Facebook se basait pour vous proposer une offre d’emploi?<\/h2>\n

C’est la question que s’est pos\u00e9e l’organisation AgorithmWatch<\/a>. En collaboration avec la RTS, elle a men\u00e9 une exp\u00e9rience sur les algorithmes de Facebook et de Google. Six encarts publicitaires dans cinq pays diff\u00e9rents (Suisse, Allemagne, Pologne, France, Espagne) ont \u00e9t\u00e9 achet\u00e9s sur Facebook et Google pour des offres d’emploi de : d\u00e9veloppeur de machines d’apprentissage, camionneur, coiffeur, \u00e9ducateur de jeunes enfants, conseiller juridique et infirmier. Les r\u00e9sultats ont montr\u00e9 que les algorithmes de Facebook et Google (dans un moindre mesure) ciblaient leurs offres d’emploi en fonction du sexe des utilisateurs. L’annonce de chauffeur poids-lourds, a par exemple \u00e9t\u00e9 diffus\u00e9e en Suisse \u00e0 3607 hommes, contre 631 femmes. Celle d’\u00e9ducateur de jeunes enfants a \u00e9t\u00e9 montr\u00e9e \u00e0 1203 femmes pour 369 hommes.<\/p>\n

<\/p>\n

\"When<\/a>
Source (AlgorithWatch,2020)<\/figcaption><\/figure>\n

\n

L’\u00e9quipe d’AlgorithmWatch a \u00e9galement relev\u00e9 que l’algorithme de Facebook se basait principalement sur l’image utilis\u00e9e dans l’annonce pour d\u00e9cider sur quels fils d’actualit\u00e9 la faire apparaitre. (Tran-Tien, Zufferey, 2020).<\/p>\n

\"Facebook<\/a>
Source (AlgorithmWatch, 2020)<\/figcaption><\/figure>\n

Cette exp\u00e9rience fait \u00e9cho \u00e0 l’\u00e9tude “Discrimination through optimization: How Facebook’s ad delivery can lead to skewed outcomes<\/a>” r\u00e9alis\u00e9e en 2019 par des chercheurs de la Northeastern University Massachusetts, qui a relev\u00e9 des biais significatifs li\u00e9s au sexe et \u00e0 la race pour des annonces d’offres d’emploi et de logements diffus\u00e9es sur Facebook (Ali et al., 2019).<\/p>\n

Pensez-vous que vos rencontres sur Tinder sont le fruit du hasard?<\/h2>\n

Dans son ouvrage “Amour sous algorithme<\/a>” paru en 2019, Judith Duportail a r\u00e9alis\u00e9 un enqu\u00eate journalistique sur l’algorithme de Tinder. Elle a rencontr\u00e9 Jessica Pidoux, doctorante en humanit\u00e9s digitales \u00e0 l’EPFL qui r\u00e9dige une th\u00e8se sur “Les m\u00e9triques de la rencontre en ligne<\/a>“. Durant ses recherches, la doctorante a d\u00e9nich\u00e9 un brevet<\/a> qui explique le fonctionnement de l’algorithme. En se basant sur les donn\u00e9es partag\u00e9es par les utilisateurs, ce dernier d\u00e9termine un “score personnel de d\u00e9sirabilit\u00e9” en fonction de l’intelligence suppos\u00e9e, de l’\u00e9ducation, du style d’\u00e9criture, de l’attractivit\u00e9 physique, du niveau de revenu, du succ\u00e8s et du temps pass\u00e9 sur l’application (Robert, 2020). Les gens sont ensuite mis en relation en fonction de cette note. Selon Jessica Pidoux, l’algorithme se base sur un mod\u00e8le patriarcal ou “les hommes ais\u00e9s sont plus susceptibles de tomber sur des profils de femmes moins \u00e9duqu\u00e9es”(Delafoi, 2020) ce qui cr\u00e9\u00e9 du sexisme et de la discrimination.<\/p>\n

Connaissez-vous l’algorithme Perspective qui d\u00e9tecte automatiquement les discours haineux sur internet ?<\/h2>\n

Malheureusement ce dernier aurait un biais raciste envers la communaut\u00e9 afro-am\u00e9ricaine. Des chercheurs de l’Universit\u00e9 de Washington<\/a> ont d\u00e9couvert que Perspective avait \u00e9t\u00e9 entrain\u00e9 avec des donn\u00e9es contenant des pr\u00e9jug\u00e9s raciaux. En effet, la base de donn\u00e9es utilis\u00e9e contenait plus de 100’000 tweets annot\u00e9s par des humains afin de d\u00e9tecter les propos haineux. Les tweets qui utilisaient l’argot afro-am\u00e9ricain avaient \u00e9t\u00e9 class\u00e9s plus fr\u00e9quemment comme \u00e9tant du contenu “toxique”. Ce biais sur les donn\u00e9es d’entrainement de Perspective a eu pour cons\u00e9quence que les tweets publi\u00e9s par des personnes afro-am\u00e9ricaines avaient ainsi 1.5 \u00e0 2 fois plus de chance d’\u00eatre cat\u00e9goris\u00e9s comme \u00e9tant “offensants”. Il a rendu l’algorithme raciste envers la population noire et a contribu\u00e9 \u00e0 la censure de cette communaut\u00e9 (Laurent, 2019).<\/p>\n

<\/p>\n

<\/p>\n

<\/p>\n

<\/p>\n


\n<\/a><\/p>\n
\"Phrases<\/a>
Source (Sap et al., 2019)<\/figcaption><\/figure>
<\/figcaption><\/figure>\n

J’aurais encore pu vous parler des erreurs li\u00e9es au syst\u00e8me de reconnaissance facile. La derni\u00e8re victime en date, Robert Julian-Borchak Williams<\/a>, a \u00e9t\u00e9 arr\u00eat\u00e9 \u00e0 D\u00e9troit pour un crime qu’il n’avait pas commis, suite \u00e0 l’utilisation d’un syst\u00e8me de reconnaissance faciale d\u00e9fectueux. Ou encore, de l’algorithme de Twitter<\/a> qui favorise les images ayant davantage de contraste. Cela provoque un biais raciste en privil\u00e9giant les images de visages blancs au d\u00e9triment de visages noirs.<\/p>\n

Tous ces exemples nous montrent que les algorithmes sont loin d’\u00eatre objectifs et neutres. On trouve un grand nombre de biais algorithmiques (race, genre, sexe\u2026) qui peuvent avoir un impact sur tous les domaines de notre vie, notre vie professionnelle, nos loisirs, notre s\u00e9curit\u00e9, jusque dans nos rencontres amoureuses. Je vous conseille d’ailleurs la lecture de cet article sur le Big data et la police pr\u00e9dictive<\/a>.<\/p>\n

Quelques pistes en conclusion<\/h2>\n