Dans l’ère numérique actuelle, les applications de rencontres jouent un rôle central dans la façon dont les individus établissent des liens amoureux. Le débat sur la manière dont la technologie influence nos choix romantiques est passionnant et, lorsqu’il aborde des questions liées aux filtres à travers lesquels nous poursuivons notre quête de l’âme sœur, il soulève des questions fondamentales sur l’identité, la diversité et la manière dont nous conceptualisons l’amour.
Swipez, Lovez, Classez : les Filtres de Préférences d’Hinge à l’épreuve de la Classification Raciale
L’utilisation générale des filtres de préférence dans les applications de rencontres nous pousse à remettre en question la véritable nature de notre identité et de notre autonomie. Sommes-nous destinés à aimer en fonction de catégories préétablies qui prétendent être des simplifications de nos critères personnes, de nos ressentis, réduisant de manière simpliste la richesse complexe de l’amour ?
Parmi les filtres de préférences proposés par l’application de rencontres Hinge, le filtre ethnique permet aux utilisateurs de définir explicitement avec quelles ethnicités ils souhaitent interagir. Cela soulève inévitablement des problèmes liés à la classification raciale, car, comme le souligne Crawford :
« Toute classification raciale est intrinsèquement politique » et, par définition, raciste.
Crawford, Atlas of AI, Yale University Press, 2021, p. 127
Justification de l’Injustifiable – la réponse ambiguë de Hinge
L’enjeux du débat réside dans la justification fournie par la compagnie pour ce choix de filtre. Notons tout d’abord que, à la différence des autres filtres présents sur l’application (comme celui d’âge ou de distance), la compagnie se sent dans l’obligation d’expliquer dans le forum officiel de son site pourquoi un tel filtre ethnique est présent inclus les options proposées à l’utilisateur : n’est-ce pas déjà en soi un indice du caractère problématique d’un tel choix ?
Après avoir ainsi présenté à l’utilisateur une liste ethnique, à la question « Pourquoi Hinge propose-t-il un filtre de préférences ethniques ? »
La compagnie répond comme suit :
« Les fondements de Hinge résident dans la création d’amour et de liens significatifs pour tous. »
Après une réponse paradoxale qui suppose une ouverture à tout le monde, tâche clairement compromise par un filtre basé sur les préférences raciales, l’équipe de l’application justifie ce choix en mettant en avant les minorités ethniques (présentes en Europe et aux États Unis). Selon la compagnie, ce filtre a été mis en place en réponse aux fréquentes demandes des membres des minorités ethniques cherchant des partenaires au sein de leurs propres communautés.
Minorités ethniques et pouvoir revendiqué ou comportements racistes inconscients ?
L’objectif déclaré du filtre de préférences ethniques est de conférer du pouvoir aux minorités ethniques dans leur quête amoureuse. Cependant, cette structure de classification apparente ne fait qu’accentuer les dynamiques de pouvoir existantes, comme le souligne Crawford, en « encodant un certain pouvoir » (Crawford, p. 128), dévoilant ainsi une structure de classification profondément enracinée dans la société. Par ailleurs, la manière dont la compagnie explique et justifie ce filtre accentue les problèmes liées à l’inégalité raciale déjà présente dans la société.
« Les utilisateurs issus de groupes minoritaires sont souvent contraints d’être entourés par la majorité et la suppression de l’option de préférence les affaiblirait dans leur parcours de rencontres. »
Site officiel l’Help Center de Hinge
L’introduction du filtre de préférences ethniques dans Hinge, ainsi que la justification qui en découle, suscite des inquiétudes quant aux comportements racistes inconscients des utilisateurs. En structurant les choix à travers des filtres ethniques, les applications de rencontres peuvent inadvertamment encourages des discriminations silencieuses.
La justification de la présence d’un tel filtre, basée sur les minorités ethniques elles-même, le présente comme une résolutions du biais découlant du fait que ces groupes sont toujours considérés comme des minorités. Ce problème découle d’un biais déjà existant dans la société, qui consiste à percevoir les groupes minoritaires comme distincts de la majorité, créant ainsi davantage d’inégalités.
De surcroît, l’application est conçue de manière à ce que les utilisateurs appliquant des filtre ethniques ne se perçoivent pas comme adoptant des comportements racistes. Il est crucial de noter que le problème racial persiste même lorsque les applications de rencontres n’incluent pas explicitement de filtre ethnique parmi les préférences :
« En utilisant des protocoles qui favorisent l’engagement distrait, elles permettent aux préférences raciales inconscientes de s’exprimer sans troubler la perception que les utilisateurs ont d’eux-mêmes comme n’étant pas des personnes racistes. »
Narr, “The Uncanny Swipe Drive: The Return of a Racist Mode of Algorithmic Thought on Dating Apps”. Studies in Gender and Sexuality, (22: 3), 2021, p. 219
En introduisant ce filtre, cela engendre la possibilité pour les utilisateurs de discriminer discrètement les autres en raison de la structure même de l’application. Ce filtre est effectivement classé parmi les préférences. Une étude menée parmi les utilisateurs de l’application de rencontre Grindr révèle un problème similaire, où le racisme se dissimule derrière des préférences :
« La façon la plus courante observée chez les individus pour justifier le racisme sexuel et d’autres comportements discriminatoires, était de justifier leurs comportements comme étant des préférences ».
Conner, “How Sexual Racism and Other Discriminatory Behaviors are Rationalized in Online Dating Apps”. Deviant Behavior, 2022, p. 6
Peut-on quantifier l’amour ?
C’est la question que nous devrions toujours nous poser lorsqu’on fait défiler parmi les centaines de photos de profils proposées sur ces applications ou bien lorsqu’on se trouve à choisir parmi des filtres de préférences pré-établies qui prévalent sur notre libre arbitre…
L’amour virtuel, filtré par des algorithmes, révèle la dualité moderne où la technologie tisse des liens tout en dissimulant la complexité infinie des émotions humaines.
Le filtre de préférences ethniques de Hinge jette une lumière éloquente sur la façon dont la conception des applications de rencontres, en manipulant les processus inconscients, incite involontairement les utilisateurs à adopter des comportements tels que le racisme. Ces applications, en capturant, calculant et manipulant ces processus, rendent difficile la perception de la source de la résistance à l’oppression qu’elles amplifient. Ainsi, les utilisateurs ont tendance à oublier que les classifications choisies pour façonner un système technique peuvent jouer un rôle dynamique dans la création du monde social et matériel. La présence de tels filtres et classifications exerce inconsciemment une influence sur la manière dont les utilisateurs se perçoivent et interagissent avec le monde qui les entoure.
En dévoilant les coulisses de la conception des applications de rencontres, le filtre de préférences ethniques de Hinge expose habilement la dualité paradoxale entre la quête de l’amour et l’impact inconscient des algorithmes. Alors que ces applications façonnent subtilement notre perception du monde, l’amour, lui, reste à portée d’un simple swipe, dans l’ombre de cette complexité numérique.