Tech & internetScience & santé

La Croix, les algorithmes, les cyborgs et ma grand-mère

Matthieu Foucher, mis à jour le 27.06.2014 à 12 h 41

Faut-il avoir peur du règne de «l’algorithme décideur»?

Le petit robot «Muu» présenté à Tokyo en 2001. REUTERS/Toshiyuki Aizawa

Le petit robot «Muu» présenté à Tokyo en 2001. REUTERS/Toshiyuki Aizawa

«Tiens, avant de partir. Tu devrais lire ça», me dit après le café ma grand-mère, alors que je lui rendais visite il y a quelques temps, avant d’ajouter, visiblement contrariée:

«Tu sais, je suis inquiète.»

Dans ses mains un exemplaire papier de La Croix et, plus particulièrement, une interview de Cynthia Fleury (présentée ici comme «la philosophe du courage»), titrée de façon dramatique:

«On va liquider la pensée en s’en remettant à une machine»

Partagé entre la suspicion (ce titre!) et l’étonnement (Manou a compris ce que j’étudie?!), j’enfournai le journal dans mon sac. Quand je lus enfin l’article, quelques semaines plus tard, mes premières craintes s’en trouvèrent confirmées.

Le règne de «l’algorithme décideur», une dystopie effrayante

Après avoir prédit «la fin de la notion d’intérêt public et du sens de l’Etat» ainsi que «l’obsolescence de la République», la philosophe met en cause une classe politique structurellement incapable de réformer la société pour la rendre plus égalitaire, dressant un tableau pessimiste (et jusqu’ici plutôt réaliste) de la crise française actuelle.

Pour elle cependant, les coupables sont vite trouvés: «la dérégulation de la finance» mais surtout «les nouvelles technologies, le big data» .

A la (subtile) question du journaliste «les nouvelles technologies sont-elles si nocives?», Fleury répond en pointant du doigt «l’algorithme décideur» qui «permet la liquidation de la décision humaine».

Elle continue:

«Je constate qu’un nouveau dogme émerge: le probabilisme, le règne sans partage de la probabilité comme seule source de décision pertinente. Or, la probabilité analyse les données, mais ne pense pas. Seule une machine peut analyser des milliards de données. Mais on est loin du jugement humain.»

Au final, la chercheuse nous dépeint une dystopie technologique effrayante où «le règne de l’algorithme» viendrait signer «la fin du libre arbitre, donc du choix, donc de la responsabilité, donc de l’éthique» et, encore une fois, «liquider la pensée».

Cette nouvelle preuve de la «machinisation de la vie humaine» ne serait que la résultante de «l’incapacité de l’homme à accepter sa finitude», une angoisse métaphysique face à sa propre mortalité. Bien.

Attiser les peurs de son audience avec un argumentaire bien choisi

Plusieurs points, dans son argumentaire, me mettent mal à l’aise.

Lorsque Fleury, par exemple, met en garde contre le «big data» qui viendrait progressivement «vider la décision politique de sa dimension humaine», on est tenté de lui rappeler que l’utilisation des statistiques par les gouvernements remonte au moins au XVIIe siècle (le mot «statistique» ayant précisément le mot «Etat» pour origine), et que les nouvelles technologies n’ont fait qu’augmenter (certes de façon spectaculaire) la taille des bases de données.

Quand elle espère, par exemple, «que le médecin, demain, n’aura pas l’obligation de tenir compte des probabilités, quant à telle ou telle maladie, afin de déterminer une action thérapeutique», on voudrait pouvoir lui répondre que, là encore, c’est (heureusement) déjà le cas (c’est l’un des usages courants de la biostatistique).

Enfin, quand elle affirme que «les jeunes gens ne comprennent pas l’intérêt d’avoir une hypothèse pour penser et préfèrent l’information livrée sans discussion par Internet», on aimerait bien, tout en s’interrogeant sur l’origine d’un tel présupposé, lui faire savoir qu’Internet est tout sauf une voix unanime et que jamais une génération jusqu’ici n’a eu, justement, potentiellement accès à autant de sources, opinions et savoirs divergents.

Que ce soit par son champ lexical apocalyptique («craindre», «corruption», «chute», «fin», «extraordinairement peur», «liquidation», «liquider», «esclave», «idole», «servitude»), par ses thèmes soigneusement choisis (finance dérégulée, maladie, éthique, machinisation de l’homme, jeunesse décérébrée, peur de mourir), ou par ses cibles aux contours flous («les nouvelles technologies», «les machines», «l’algorithme»), l’interview donne l’impression d’attiser précisément les peurs de son audience comme on souffle sur des braises, et apparaît plus comme une tribune technophobe que comme une analyse sérieuse.

Platon et les effets nocifs de l’écriture

Si les prédictions alarmantes de Fleury semblent exagérées et mériteraient d’être nuancées, elles illustrent pourtant bien nos craintes presque instinctives vis-à-vis des technologies nouvelles et autres médias inconnus.

Interroger l’influence de ces derniers sur notre société ou notre façon de penser est d’ailleurs un réflexe aussi légitime qu’ancien: Platon lui-même, dans Phèdre, dissertait sur les effets potentiellement néfastes de l’écriture sur le savoir et la mémoire, faisant dire au roi d’Egypte Thamous, dans un dialogue avec le dieu Theuth:

«[L’écriture] ne peut produire dans les âmes, en effet, que l’oubli de ce qu’elles savent en leur faisant négliger la mémoire. Parce qu’ils auront foi dans l’écriture, c’est par le dehors, par des empreintes étrangères, et non plus du dedans et du fond d’eux-mêmes, que les hommes chercheront à se ressouvenir. Tu as trouvé le moyen, non point d’enrichir la mémoire, mais de conserver les souvenirs qu’elle a. Tu donnes à tes disciples la présomption qu’ils ont la science, non la science elle-même. Quand ils auront, en effet, beaucoup appris sans maître, ils s’imagineront devenus très savants, et ils ne seront pour la plupart que des ignorants de commerce incommode, des savants imaginaires au lieu de vrais savants.»

Les livres ne pouvant (contrairement aux sages) expliquer ce qu’ils disent, ils allaient non seulement échouer à transmettre la connaissance mais surtout rendre les hommes arrogants, croyant savoir beaucoup mais sachant mal... Un argumentaire qui, ironiquement, ressemble à celui de Fleury sur «les adolescents» qui ne savent plus penser.

Plus récemment, l’écrivain américain Nicholas Carr étudiait dans un livre à la fois acclamé et critiqué le lien entre NTIC, psyché (en particulier nos capacités de concentration) et comportement social, et publié en français sous le titre racoleur Internet rend-il bête?. Traduit dans 23 langues et considéré comme un best-seller en 2010, le succès de l’ouvrage témoigne là encore de l’importance de nos questionnements vis-à-vis des NTIC.

Plusieurs disciplines académiques, des Science Studies aux Media Studies, ont d’ailleurs pour but de disserter et étudier de façon critique l’histoire et les effets de ces technologies sur notre société et notre condition d’homme; inspirées en partie par l’idée que «le message, c’est le médium» tout en en testant les limites.

Retour aux racines: Donna Haraway et le Manifeste Cyborg

Cette tendance, justement, à vouloir séparer de façon binaire nature et culture, opposant une humanité pure (dans La Croix, «éthique») à des technologies corruptrices de l’autre, a souvent été remise en question par le constat que l’homme est, de toutes façons, «naturellement artificiel».

L’interview de Cynthia Fleury, moi, m’évoque la professeure américaine Donna Haraway et surtout son Manifeste Cyborg (1991), un texte radical, drôle et parfois pas facile à suivre, et un classique de la théorie des nouveaux médias. Avec une certaine ironie, l’auteure rejette grâce à plusieurs exemples les frontières entre humain et non-humain, femme et homme, et surtout machine et organisme: puisque nous sommes nés avec les médias, alors nous sommes déjà, sans le savoir et malgré nous, cyborg. La catégorie «humain» serait donc ouverte, indéterminée, et l’enjeu ici ne serait plus pour l’homme de concevoir sa finitude, mais plutôt son «infinitude».

«En bref, nous ne sommes plus très sûres de savoir ce qui appartient ou non à la nature –cette source d’innocence et de sagesse– et nous ne le saurons probablement plus jamais. Nous avons perdu l’autorisation d’interpréter, qui fait la transcendance, et avec elle, nous avons perdu l’ontologie, qui fait le terrain de l’épistémologie “occidentale”. Mais il y a d’autres réponses à cela que le cynisme, le manque de foi, ou tout autre version abstraite de l’existence, comme la destruction de “l’homme” par la “machine” ou de “l’action politique signifiante” par le “texte” qu’entraînerait le déterminisme technologique. Savoir qui seront les cyborgs est une question fondamentale, notre survie dépend des réponses que nous saurons y apporter.»

Si l’essai de l’Américaine et son invocation du mythe cyborg sont avant tout une métaphore appelant à un nouveau féminisme, les relations humain-technologie y trouvent une place importante. A l’extrême opposé de l’idée de «l’homme indéfini, mais subordonné aux machines» qui effraie tant Fleury, Haraway, elle, joue sur le flou entre ces deux termes et rappelle:

«La machine n’est pas un “ceci” qui doit être animé, vénéré et dominé. La machine est nous, elle est nos processus, un aspect de notre incarnation. Nous pouvons être responsables des machines, elles ne nous dominent pas, elles ne nous menacent pas. Nous sommes responsables des frontières, nous sommes les frontières.»

Ainsi, plutôt que l’appel à la résistance et à l'«abnégation» de notre philosophe française, qui ressemble fort à un boycott total des nouveaux médias, l’Américaine elle nous encourage à à la fois «détruire et construire des machines», à accepter notre nature cyborg pour faire des alliances opportunistes et augmenter notre capacité d’action.

Comme je tentais de l’expliquer à ma grand-mère au téléphone, l’idée est donc de ramener le débat dans le champ politique: imaginer et produire des technologies mises au service de l’humain (ou plutôt des humain.e.s) au lieu de les condamner bêtement.

Matthieu Foucher
Matthieu Foucher (2 articles)
Journaliste
En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour réaliser des statistiques de visites, vous proposer des publicités adaptées à vos centres d’intérêt et nous suivre sur les réseaux sociaux. > Paramétrer > J'accepte