Tech & internet / Sciences

Les robots n'ont pas besoin d'être conscients pour s'en prendre à nous

Temps de lecture : 2 min

Pour prendre la décision de nous tuer, les robots n'ont pas forcément besoin d'avoir conscience d'eux-mêmes.

Terminator Exhibition: T-800 | Dick Thomas Johnson via Flickr CC License by
Terminator Exhibition: T-800 | Dick Thomas Johnson via Flickr CC License by

Fin juillet, Elon Musk, créateur de Paypal et patron de SpaceX, Stephen Hawking, astrophysicien, Steve Wozniak, cofondateur d'Apple, et plus de 16.000 chercheurs signaient une lettre ouverte pour mettre en garde contre les dangers des armes autonomes. Dotés d'une intelligence artificielle (IA), les robots pourraient décider eux-mêmes de tirer ou non sur une cible, avec toutes les dérives que cela fait craindre.

Sauf que, pour prendre la décision de nous tuer, les robots n'ont pas forcément besoin d'avoir conscience d'eux-mêmes. Stuart Russel, informaticien et fondateur du centre des systèmes intelligents de l'université de Californie (qui fait également partie des signataires), a répondu aux questions des journalistes de Tech Insider sur le fonctionnement des intelligences artificielles.

La conscience spontanée? Peu probable

Que vous preniez 2001, l'Odyssée de l'espace, Ex Machina, ou encore Blade Runner, les scénarios catastrophes sont toujours les mêmes: des machines intelligentes et dotées d'une conscience finissent par se retourner contre les hommes et à faire beaucoup de dégâts autour d'elles.

Pour commencer, il est très peu probable que des machines se découvrent spontanément, et sans raison, conscientes d'elles-mêmes (comme dans Ex Machina): lorsqu'un robot est construit, c'est en vue d'accomplir des objectifs précis. Et, même si la machine, mal programmée, se révèle finalement incapable de les accomplir, elle ne va pas se révolter pour éviter d'être éteinte et mener à bien sa mission première.

Imaginons que je sois un joueur d'échec qui joue contre un ordinateur, et il gagne. Je peux vous assurer qu'il n'est pas conscient mais ça ne change rien: je perds à chaque fois

Stuart Russel, fondateur du centre des systèmes intelligents de l'université de Californie

Aucun chercheur en IA ne travaille sur la conscience

Quant à volontairement doter un robot d'une conscience, la science n'en est pas encore là:

«Nous sommes plus proches de savoir comment construire un vaisseau qui va plus vite que la lumière que de savoir comment le cerveau produit la conscience.»

Selon Stuart Russel, la science a d'abord un long chemin à parcourir pour découvrir comment l'intelligence est générée par l'homme, avant d'aborder la question de la conscience. Un très long chemin:

«D'après ce que j'en sais, aucun chercheur en IA ne travaille sur la conscience. Il doit y avoir des neuroscientifiques qui essaient de la comprendre mais je ne crois pas qu'ils aient fait de réels progrès

Ne pas confondre conscience et autonomie

Est-on pour autant à l'abri des robots tueurs ou d'une intelligence artificielle qui signerait la fin de l'humanité? Rien n'est moins sûr. Car il ne faut pas confondre conscience et autonomie. Or cette capacité à prendre des décisions commence déjà à être maîtrisée par les machines:

«Imaginons que je sois un joueur d'échec qui joue contre un ordinateur, et il gagne. Je peux vous assurer qu'il n'est pas conscient mais ça ne change rien: je perds à chaque fois. Si on extrapole et que l'on compare le monde à un immense jeu d'échec, ça n'a aucune importance que l'on soit battu par des machines conscientes ou non.»

Newsletters

Une université travaillant sur le Covid-19 se fait hacker et paie 1.140.000$

Une université travaillant sur le Covid-19 se fait hacker et paie 1.140.000$

L'Université de Californie à San Francisco, une institution de recherche médicale, a payé la rançon pour éviter une cyberattaque du groupe de hackers Netwalker.

Twitter a voulu lutter contre les fake news liées à la 5G et au Covid-19 avec un algorithme. Ça a complètement échoué

Twitter a voulu lutter contre les fake news liées à la 5G et au Covid-19 avec un algorithme. Ça a complètement échoué

La plateforme a alpagué des tweets complètement inoffensifs et en a laissé d’autres plus conspirationnistes.

Les jeux vidéo sont de bonnes formations à la gestion de crise

Les jeux vidéo sont de bonnes formations à la gestion de crise

Jouer est un moyen efficace de se confronter à des situations extraordinaires dans des environnements virtuels réalistes qui stimulent l'intelligence, la mémoire et la créativité.

Newsletters