Partager cet article

Cruauté des algorithmes: quand Facebook propose la photo d'une enfant décédée dans sa rétrospective annuelle

Photo de la «Year in Review» proposée à Eric Meyer (via Meyerweb)

Photo de la «Year in Review» proposée à Eric Meyer (via Meyerweb)

Si vous êtes sur Facebook, sans doute avez-vous aperçu ces derniers jours des «rétrospectives de l'année» sur les murs de vos amis. Peut-être vous êtes vus proposer par le réseau social de mettre en ligne la vôtre. Un post de blog d'un utilisateur américain, Eric Meyer, vient nous rappeler que, derrière cette rétrospective, il y un algorithme, pas quelqu'un qui connaît vraiment ce qu'a été votre année.

Meyer, connu pour son travail sur le design web et notamment le CSS, explique qu'il en a vu passer beaucoup dans les flux d'informations de ses amis:

«Mais bon, il m'était facile de les ignorer, et je l'ai fait. Jusqu'à aujourd'hui, quand j'ai vu ceci dans mon flux, m'incitant à créer la mienne. "Eric, voici à quoi a ressemblé votre année!".

 

Une photo de ma petite fille, qui est morte. Qui est décédée cette année.

 

Oui, voilà à quoi a ressemblé mon année, c'est vrai. Mon année a ressemblé au visage, désormais absent, de ma petite fille. Il n'en était pas moins cruel de me le rappeler si énergiquement.»

Eric Meyer estime que cette «cruauté algorithmique» cache un problème plus profond, qu'il appelle celui du «design empathique»:

«Quand Facebook a créé cette application "Year in Review", il n'a pas suffisamment pensé à des cas comme le mien [...] ou n'importe qui qui a vécu une mauvaise année. Elle est pensée pour l'utilisateur idéal, heureux, optimiste, qui mène une belle vie. [...]

 

Deux suggestions évidentes pour remédier à cela: d'abord, ne préremplissez pas le champ photo avant d'être sûr que l'utilisateur veut vraiment voir des photos de son année. Ensuite, plutôt qu'imposer l'application aux yeux des gens, demandez-leur peut-être s'ils veulent en voir une présentation, juste en répondant par oui ou non. S'ils disent non, demandez-leur s'ils veulent se voir reposer la question plus tard ou non. Et ensuite, évidemment, respectez leur choix.»

Cette histoire reflète aussi la simplicité caricaturale des émotions qu'il est possible d'exprimer sur Facebook, cet «espace de positivité», selon Tama Leaver, chercheuse à la Curtin University (Australie), interviewée par le Sydney Morning Herald. En l'espèce, si Meyer a vu apparaître la photo de sa petite fille, c'est parce qu'il l'avait postée sur le réseau pour annoncer ses obsèques: ce statut a fait l'objet d'une activité intense, mais Facebook n'en a pas analysé l'objet...

Suite à son post, Eric Meyer a été contacté par Facebook. «L'application est géniale, mais clairement, dans ce cas, nous lui avons infligé de la tristesse plutôt qu'apporté de la joie», a expliqué au Washington Post Jonathan Gheller, le responsable de l'application, en ajoutant que le réseau social allait tenter de prendre en compte ses préoccupations.

Vous devez être membre de Slate+ et connecté pour pouvoir commenter.
Pour devenir membre ou vous connecter, rendez-vous sur Slate+.
En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour réaliser des statistiques de visites, vous proposer des publicités adaptées à vos centres d’intérêt et nous suivre sur les réseaux sociaux. > Paramétrer > J'accepte