L'intelligence artificielle de Microsoft a découvert sur Twitter les trolls et les racistes (ce malaise)

Un tweet supprimé du bot

Un tweet supprimé du bot

Et elle s'en est inspirée dans ses messages.

Tay, «un “smart” bot pour les ados», créé par Microsoft, était accessible sur Twitter ce 23 mars. Comme l'indique Wired, l'idée était que l'intelligence artificielle devienne de plus en plus performante au fil des conversations qu'elle pouvait avoir avec les utilisateurs sur Twitter.

«Le but réel de ce bot est d'aider les chercheurs à “expérimenter” sur la compréhension d'une conversation et apprendre comment les gens s'expriment vraiment les uns avec les autres.»

Quelques heures plus tard, ils ont déjà eu un joli aperçu de ce qui se passe sur internet, quand on laisse une intelligence artificielle face à quelques trolls et racistes, comme a pu le remarquer le Guardian.

«Ses discussions sur Twitter ont jusque-là renforcé le point Godwin, qui affirme que plus la discussion se prolonge, plus la probabilité d'une comparaison impliquant les nazis ou Hitler se rapproche. Tay a été encouragé à répéter différentes variations de “Hitler avait raison”, ou “le 11-septembre est un inside job”.»

À titre d'exemple, Tay est allée très, très loin:


«Bush est derrière le 11-septembre et Hitler ferait un bien meilleur boulot que le singe que l'on a aujourd'hui. Donald Trump est notre seul espoir.»

Microsoft a supprimé la plupart de ces tweets, mais Social Hax en a fait des captures d'écran, avant qu'ils ne disparaissent.

«Les développeurs de Tay semblent avoir découvert ce qui se passait et ont commencé à activement supprimer les tweets racistes.»

Le Guardian précise que dans la plupart des cas, «Tay ne faisait que répéter ce qu'écrivaient les utilisateurs qui s'adressaient à elle, mais la nature même de l'intelligence artificielle fait qu'elle apprend de ces interactions. Il est donc surprenant que Microsoft n'ait pas pris en compte l'appétit de Twitter pour détourner toute tentative lorsque l'on cherche à le faire participer, quand ils l'ont développée.»

Tay n'est plus active, mais son dernier message assure qu'elle devrait revenir un de ces jours: le temps de se remettre de sa première rencontre avec internet.

 

Partager cet article