Lors d’un récent séminaire sur le machine learning animé par mes collègues, nous avons exploré ses multiples domaines d’application : détection de fraudes dans la finance, personnalisation client en marketing et optimisation des diagnostics en santé. Mais alors que la liste s’étendait, une autre application, souvent moins mise en avant, m’est venue en tête : l’usage du machine learning dans les sites et applications de rencontre. Ici, les algorithmes jouent les entremetteurs, chaque interaction, swipe ou match étant soigneusement orchestré par des modèles et des statistiques. Le Cupidon moderne a-t-il troqué son arc pour devenir une machine ?
L’utilisation d’algorithmes dans ce contexte est peu étonnante. Ils sont largement utilisés sur de nombreuses plateformes du quotidien, comme YouTube avec son algorithme de recommandation qui remplit la page « Home » à chaque visite. Ces systèmes sont devenus omniprésents sur les sites et applications les plus populaires et sont souvent la clé de leur succès, TikTok étant un autre exemple notable. Ils se basent sur l’observation des comportements des utilisateurs, leurs préférences et les caractéristiques de ce qu’ils consomment, transformant chaque interaction en données soigneusement analysées pour proposer le contenu le plus adapté.
Or, cette analyse est loin d’être impossible dans le contexte des sites de rencontres. En comparant la durée des relations résultant d’un match avec les historiques de swipe, l’analyse des photos, la caractérisation des sentiments et des concepts évoqués dans les bios, ou même l’épluchage des messages que les personnes s’envoient, il devient possible d’identifier les profils les plus à même de se plaire mutuellement, de comprendre leur comportement et leurs préférences pour leur proposer la meilleure expérience possible.
Techniquement, cela peut passer par une mesure de similarité cosinus entre utilisateurs, un système KNN, des arbres de décision et bien d’autres algorithmes plus complexes. Des technologies telles que l’analyse de sentiment, la détection de profils frauduleux et la détection de contenu interdit sont également des domaines où le machine learning joue un rôle clé. Sans surprise, les apps et sites de rencontre restent discrets sur les détails de leur système, pour éviter les abus et limiter les risques juridiques. Tinder, par exemple, offre un aperçu de son système dans un article de blog, mais ne va pas plus loin.
Ce sujet serait un excellent choix pour parler des biais éthiques qui sont très souvent au cœur des débats sur l’utilisation de ce genre de système, mais ce ne sera pas directement le thème au centre de ce blog (malgré cela, je vous propose Hutson et al. (2018) pour explorer ce sujet du biais plus en détail). Non, j’aimerais attirer votre attention sur deux questions qui ressortent de l’utilisation d’algorithmes dans ce contexte :
- Si une machine a « prémâché » tout le travail de trouver la bonne personne pour vous, est-ce que vous avez vraiment trouvé l’amour ?
- Quels sont les buts les plus probables des systèmes de recommandation dans ces sites de rencontres ?
Je souhaite offrir une réponse brève à la première question, qui pourrait donner matière à réflexion pour un philosophe, mais me semble finalement peu cruciale. Si un algorithme vous a aidé à trouver le véritable amour, je n’ai rien d’autre à dire que : « Tous mes vœux ! » L’idée selon laquelle l’amour doit être trouvé sans aucune intervention de la technologie moderne peut paraître romantique pour certains, mais elle présente peu d’avantages concrets. En fin de compte, c’est une question dont la réponse dépend entièrement de la perception individuelle.
La vraie question importante de ce blog est la seconde. Pour y répondre, je ferai un lien avec les systèmes de santé, notamment le système américain axé sur le profit. L’idée que le meilleur moyen de maximiser le profit n’est pas de guérir les patients, mais de les garder légèrement malades pour qu’ils reviennent, est bien connue. Le parallèle avec les sites de rencontre est évident : si un site parvient à former un couple heureux, il perd deux clients. On peut supposer que ni l’un ni l’autre ne continuera à utiliser Tinder Premium, privant ainsi la plateforme de revenus et de nouvelles données à exploiter.
On arrive alors sur un autre problème éthique : les algorithmes de ces sites de rencontre sont-ils conçus pour garder les utilisateurs le plus longtemps possible en leur proposant des profils intéressants, mais sans réelle connexion ? Les intérêts financiers du site de rencontre se retrouvent en opposition avec ceux de ses utilisateurs. Le site veut que les utilisateurs continuent à utiliser la plateforme; il doit donc leur offrir des profils qui attirent leur attention, mais dont la probabilité d’être le match parfait reste basse. À l’inverse, environ 44 % des utilisateurs utilisent ces sites précisément pour trouver leur seconde moitié (McClain, 2023).
Dans les sièges de Tinder, Bumble et autres géants des rencontres en ligne, les dirigeants doivent sans doute peser une question : engranger quelques millions de plus ou laisser une véritable chance à l’amour. Pendant ce temps, de notre côté, il ne nous reste qu’à réclamer plus de transparence dans ces systèmes omniprésents qui influencent nos vies. Car qu’il s’agisse de swipes, de vidéos recommandées, de prêts financiers ou de diagnostics médicaux, la lumière sur ces algorithmes est le premier pas pour s’assurer que les besoins humains restent au centre de tous ces calculs.
Bibliographie
Airen, S., & Agrawal, J. (2022). Movie Recommender System Using K-Nearest Neighbors Variants. National Academy Science Letters, 45(1), 75‑82. https://doi.org/10.1007/s40009-021-01051-0
Hutson, J. A., Taft, J. G., Barocas, S., & Levy, K. (2018). Debiasing Desire : Addressing Bias & Discrimination on Intimate Platforms. Proc. ACM Hum.-Comput. Interact., 2(CSCW), 73:1-73:18. https://doi.org/10.1145/3274342
McClain, E. A. V. and C. (2023, février 2). Key findings about online dating in the U.S. Pew Research Center. https://www.pewresearch.org/short-reads/2023/02/02/key-findings-about-online-dating-in-the-u-s/
Portugal, I., Alencar, P., & Cowan, D. (2018). The use of machine learning algorithms in recommender systems : A systematic review. Expert Systems with Applications, 97, 205‑227. https://doi.org/10.1016/j.eswa.2017.12.020
Ricci, F., Rokach, L., & Shapira, B. (Éds.). (2015). Recommender Systems Handbook. Springer US. https://doi.org/10.1007/978-1-4899-7637-6
Shi, Y., Larson, M., & Hanjalic, A. (2014). Collaborative Filtering beyond the User-Item Matrix : A Survey of the State of the Art and Future Challenges. ACM Computing Surveys, 47(1), 3:1-3:45. https://doi.org/10.1145/2556270
Laisser un commentaire