Sciences

Une intelligence artificielle pourrait-elle éradiquer l'espèce humaine?

Temps de lecture : 2 min

Encore faudrait-il qu'elle ait une conscience.

Dans la série de films Terminator une IA devient consciente et décide de détruire l'humanité. | Capture d'écran via YouTube
Dans la série de films Terminator une IA devient consciente et décide de détruire l'humanité. | Capture d'écran via YouTube

Cet article est publié en partenariat avec Quora, plateforme sur laquelle les internautes peuvent poser des questions et où d'autres, spécialistes du sujet, leur répondent.

La question du jour: «Skynet est-il réaliste?»

La réponse de Brian Gogarty, scientifique amateur:

Non, cela restera probablement de la science-fiction. Certes, les ordinateurs deviennent de plus en plus intelligents, mais ils ne se rebelleront pas contre nous pour autant.

Pour en arriver là, il faudrait d'abord qu'ils acquièrent une conscience, c'est justement ce qui se passe dans Terminator mais c'est peu probable que cela arrive dans la réalité. La saga a eu un succès immense. Inutile de détailler l'histoire, une intelligence artificielle (IA) devient consciente et décide de détruire l'humanité. En raison de tous les progrès en IA, beaucoup de gens ont peur que cette œuvre de science-fiction finisse par devenir réalité.

Dans Terminator, des robots contrôlés par Skynet, une IA devenue consciente, cherchent à éradiquer l'espèce humaine. Mais ce n'est pas pour autant réaliste.

Une confusion courante

Nous confondons intelligence et conscience. Ce sont deux choses bien différentes. La première désigne la capacité à résoudre des problèmes. La seconde désigne la capacité à savoir ce que nous ressentons ou pensons.

Pour avoir une conscience, il faut donc éprouver des sensations (douleur, joie, etc.) et des sentiments (amour, colère, etc.). Or, les machines, par définition, n'ont pas de sensations ou de sentiments, elles ne peuvent pas rien ressentir.

Nous en savons très peu sur la conscience, il est donc peu probable que nous puissions programmer des ordinateurs conscients.

Les machines ne savent pas non plus quand elle pensent, malgré leurs multiples capacités. En effet, les ordinateurs réfléchissent, il peuvent jouer à des jeux comme les échecs bien mieux que les humains.

Mais un ordinateur saura-t-il jamais qu'il réfléchit? En revanche, les êtres humains sont conscients. Nous savons que nous pensons, mais nous ignorons comment fonctionne la conscience. Les ordinateurs ne savent pas qu'ils réfléchissent, ils ne font qu'exécuter un programme. Ils agissent donc uniquement par automatisme, aux échecs comme ailleurs.

Un scénario à la «Terminator» peu probable

Les machines ne sont donc pas conscientes. Il est alors très peu probable qu'une IA se retourne délibérément contre nous.

Nous avons facilement tendance à confondre intelligence et conscience car nous, êtres humains, résolvons généralement nos problèmes en éprouvant des sensations ou des sentiments. Par exemple, lorsque nous avons faim, cette sensation nous pousse à nous alimenter. Lorsque nous sommes dans une situation dangereuse, le sentiment de peur nous pousse à réfléchir et à agir. Mais les ordinateurs résolvent les problèmes très différemment, grâce à l'automatisme plutôt que grâce à des sentiments.

Bien sûr, à long terme, il n'est pas totalement impossible que l'IA acquiert des sentiments et donc une conscience car nous connaissons encore trop mal ce champ du cerveau pour savoir comment l'IA pourrait évoluer. Le fonctionnement de la conscience est l'un des plus grands mystères scientifiques. Même les meilleurs scientifiques restent perplexes.

Nous ne savons donc pas si seuls les êtres vivants à l'exclusion des machines peuvent éprouver des sentiments. Mais c'est justement parce que nous en savons si peu sur la conscience qu'il est improbable que nous puissions prochainement programmer des ordinateurs conscients.

Newsletters

L'océan Arctique n'a pas encore gelé et l'on devrait s'en inquiéter

L'océan Arctique n'a pas encore gelé et l'on devrait s'en inquiéter

La glace en mer de Laptev, près de la Sibérie, a du mal à se reconstruire.

Comme nous, les chimpanzés réduisent leurs bandes de potes en vieillissant

Comme nous, les chimpanzés réduisent leurs bandes de potes en vieillissant

Ils seraient aussi moins agressifs avec l'âge.

Un scarabée qui résiste au poids d'une voiture inspire les ingénieurs

Un scarabée qui résiste au poids d'une voiture inspire les ingénieurs

Des scientifiques étudient ce spécimen pour adapter ses propriétés à la création de structures plus solides.

Newsletters