Tech & internet

Cruauté des algorithmes: quand Facebook propose la photo d'une enfant décédée dans sa rétrospective annuelle

Temps de lecture : 2 min

Photo de la «Year in Review» proposée à Eric Meyer (via Meyerweb)
Photo de la «Year in Review» proposée à Eric Meyer (via Meyerweb)

Si vous êtes sur Facebook, sans doute avez-vous aperçu ces derniers jours des «rétrospectives de l'année» sur les murs de vos amis. Peut-être vous êtes vus proposer par le réseau social de mettre en ligne la vôtre. Un post de blog d'un utilisateur américain, Eric Meyer, vient nous rappeler que, derrière cette rétrospective, il y un algorithme, pas quelqu'un qui connaît vraiment ce qu'a été votre année.

Meyer, connu pour son travail sur le design web et notamment le CSS, explique qu'il en a vu passer beaucoup dans les flux d'informations de ses amis:

«Mais bon, il m'était facile de les ignorer, et je l'ai fait. Jusqu'à aujourd'hui, quand j'ai vu ceci dans mon flux, m'incitant à créer la mienne. "Eric, voici à quoi a ressemblé votre année!".

Une photo de ma petite fille, qui est morte. Qui est décédée cette année.

Oui, voilà à quoi a ressemblé mon année, c'est vrai. Mon année a ressemblé au visage, désormais absent, de ma petite fille. Il n'en était pas moins cruel de me le rappeler si énergiquement.»

Eric Meyer estime que cette «cruauté algorithmique» cache un problème plus profond, qu'il appelle celui du «design empathique»:

«Quand Facebook a créé cette application "Year in Review", il n'a pas suffisamment pensé à des cas comme le mien [...] ou n'importe qui qui a vécu une mauvaise année. Elle est pensée pour l'utilisateur idéal, heureux, optimiste, qui mène une belle vie. [...]

Deux suggestions évidentes pour remédier à cela: d'abord, ne préremplissez pas le champ photo avant d'être sûr que l'utilisateur veut vraiment voir des photos de son année. Ensuite, plutôt qu'imposer l'application aux yeux des gens, demandez-leur peut-être s'ils veulent en voir une présentation, juste en répondant par oui ou non. S'ils disent non, demandez-leur s'ils veulent se voir reposer la question plus tard ou non. Et ensuite, évidemment, respectez leur choix.»

Cette histoire reflète aussi la simplicité caricaturale des émotions qu'il est possible d'exprimer sur Facebook, cet «espace de positivité», selon Tama Leaver, chercheuse à la Curtin University (Australie), interviewée par le Sydney Morning Herald. En l'espèce, si Meyer a vu apparaître la photo de sa petite fille, c'est parce qu'il l'avait postée sur le réseau pour annoncer ses obsèques: ce statut a fait l'objet d'une activité intense, mais Facebook n'en a pas analysé l'objet...

Inscrivez-vous à la newsletter de SlateInscrivez-vous à la newsletter de Slate

Suite à son post, Eric Meyer a été contacté par Facebook. «L'application est géniale, mais clairement, dans ce cas, nous lui avons infligé de la tristesse plutôt qu'apporté de la joie», a expliqué au Washington Post Jonathan Gheller, le responsable de l'application, en ajoutant que le réseau social allait tenter de prendre en compte ses préoccupations.

Newsletters

Elon Musk et Twitter: la liberté d'expression est-elle une valeur de droite?

Elon Musk et Twitter: la liberté d'expression est-elle une valeur de droite?

Aux États-Unis, la gauche est devenue réticente à défendre la liberté d'expression, soupçonnée d'être un prétexte pour protéger les discours de haine, alors que la droite s'en fait la championne.

Une intelligence artificielle pour brasser la bière de ses rêves

Une intelligence artificielle pour brasser la bière de ses rêves

Et pour trouver des parades s'il vous manque des ingrédients.

Vous ne savez pas chercher l'amour

Vous ne savez pas chercher l'amour

Les critères les plus courants sur les sites de rencontres sont les moins prédictifs du bonheur amoureux.

Podcasts Grands Formats Séries
Slate Studio