Partager cet article

Comment s'assurer que les robots seront gentils avec nous?

Extrait du film «Chappie», de Neill Blomkamp. Photo via Allociné

Extrait du film «Chappie», de Neill Blomkamp. Photo via Allociné

Alors que les robots se perfectionnent de jour en jour, l'homme fait face à un nouveau défi: leur apprendre la morale.

Dans le film Chappie, réalisé par Neill Blomkamp et sorti dans les salles en mars, l’on peut suivre l’apprentissage d’un robot policier amnésique, obligé de réapprendre à faire le bien et à maintenir la sécurité autour de lui. Au-delà de sa mission de divertissement, ce film pose une véritable question: comment s’assurer qu’un robot agira de la façon la plus juste possible?

Bertram Malle pense avoir la réponse. Ce professeur de sciences cognitives, linguistiques et psychologiques de la Brown University a expliqué sa théorie sur le site Livescience. Selon lui, dans un futur pas si lointain, les robots seront non seulement plus intelligents, mais aussi bien plus moraux. L’homme ne laissera pas la gestion des robots aux industriels sans s’assurer que toutes les mesures de sécurité ne soient prises. Faisant un parallèle avec Chappie (attention petit spoiler), Bertram Malle est convaincu que les hommes «sauront comment empêcher un utilisateur d’implanter un virus dans les cerveaux métalliques de toute la flotte de robots policiers d’une ville».

Il estime en revanche que le robot devra développer ses propres capacités d’apprentissage:

«La notion selon laquelle la vraie intelligence vient de l’apprentissage, et pas juste de la programmation, gagne en crédibilité dans les communautés qui se consacrent à l’intelligence artificielle et à la robotique.»

Encore faut-il que le robot apprenne et évolue dans un environnement moralement acceptable.

Le New Yorker explique que, comme pour les enfants au sein des familles, les robots seront aussi bien influencés par leurs créateurs que par les humains qui les entoureront pendant leur vie. Qu’il s’agisse de personnes qui agissent moralement ou non.

«Les robots et l’intelligence artificielle avancée pourraient réellement transformer le monde en un endroit meilleur, en aidant à guérir le cancer, réduire la faim, ralentir le changement climatique, et aussi nous donner à tous plus de temps pour nos loisirs. Mais ils pourraient aussi empirer les choses, à commencer par le remplacement de nos emplois, pour finir par quelque chose de proche de ce que nous voyons dans les films dystopiques.»

Isaac Asimov avait déjà imaginé trois lois, directement implantées dans les robots sortis d’usines, visant à protéger l’homme de tout comportement violent. Une vision qui ne tient plus forcément aujourd’hui, selon le New Yorker, qui se demande par exemple «comment transcrire le concept de blessure dans le langage des zéros et des uns?»

De plus, l’environnement humain, parfois (souvent) violent, peut-être très risqué pour des robots en plein apprentissage. Il faudra donc se poser les bonnes questions et vite si l’on veut éviter que, comme le souligne Bertram Malle sur Livescience, «les robots continuent le sombre héritage de l’homme».

En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour réaliser des statistiques de visites, vous proposer des publicités adaptées à vos centres d’intérêt et nous suivre sur les réseaux sociaux. > Paramétrer > J'accepte