Sociéte

Comment évaluer l’éthique d’un algorithme?

Temps de lecture : 5 min

Au lendemain de le publication du rapport Villani sur l'intelligence artificielle, il est temps de s'interroger sur l'éthique des algorithmes.

/

Les algorithmes? Nouvelles technologies de l’information et la communication (NTIC), cloud computing, objets connectés, intelligence artificielle, blockchain… Ils sont mis à toutes les sauces. D’où une sensation de flou.

Dans le domaine de la santé, cette nouvelle science qui utilise les outils mathématiques pour traiter la montagne de données des big data est particulièrement cruciale. On en espère par exemple une meilleure compréhension d’évènements telles que les maladies, une prise de décision optimale, et une activité prédictive.

L’exploitation des big data peut identifier un danger sanitaire, un risque pour la santé, et parfois le prévenir. Par exemple, l’actrice américaine Angelina Jolie a su, suite au séquençage de son génome, qu’elle était porteuse d’une mutation dans le gène BRCA1 entraînant un risque de plus de 90% de développer un cancer dans la dizaine d’années à venir. Elle a décidé de subir des opérations en conséquence.

Dans le traitement du cancer, des systèmes experts peuvent traiter en un temps record environ 10.000 milliards de données d’un séquençage d’ADN provenant d’une tumeur d’un patient donné, une tâche impossible même pour les médecins les plus chevronnés.

L’ordinateur Watson traite le big data de la santé. | IBM España

Puissance des prédictions

L’outil «Google Flu Trends» prend en compte toutes les recherches effectuées sur Google et mesure combien de fois le terme «grippe», «gastro-entérite» ou «varicelle» a été recherché partout dans le monde. L’idée est que les individus ont tendance à rechercher des informations sur la grippe ou sur une autre maladie quand ils pensent en avoir les symptômes. Et, dans la grande majorité des cas, ils les ont… Quand Google annonce une augmentation des recherches sur une épidémie grippale, on y a généralement droit deux semaines plus tard.

Les algorithmes contribuent également à lutter contre la propagation des épidémies. En Afrique, les données de géolocalisation des téléphones mobiles se révèlent très précieuses afin de suivre les mouvements de la population via des flux réels de déplacement, et ainsi anticiper le développement de maladies dans un pays. Ce qui a permis notamment de prédire la propagation du virus Ebola.

Enfin, les «données massives» impliquant une large cohorte de patients ont le potentiel d’accélérer la recherche scientifique et les protocoles expérimentaux sur de nombreuses pathologies et traitements. Par exemple, le réseau social Facebook a été utilisé par des chercheurs pour établir une cartographie des Américains les plus à risque d’obésité. Une telle recherche prendrait, sans ces outils, un temps considérable et coûterait une fortune à l’échelle de millions d’individus.

Ce nouveau monde autour des algorithmes et des big data étudie en permanence le réel dans l’objectif de créer de la prévisibilité et de la prédictibilité. Et soulève une question majeure: comment s’assurer qu’un algorithme soit éthique?

Une réflexion sur l’évaluation éthique des algorithmes s’impose donc à nous. L’objectif est de donner du sens, de la transparence, de la sécurité et de la confiance autour de ces outils afin de mieux les concevoir, les exploiter et les contrôler.

L’éthique appliquée au numérique

Protection des données. | TheDigitalWay/Pixabay

L’action éthique constitue avant tout une réponse (du latin respondere: «répondre de, répondre à –d’où responsabilité») à une situation limite et complexe. Généralement, l’éthique du numérique se traduit par des questionnements, premièrement, sur le comportement et l’usage des individus face aux NTIC; et deuxièmement, sur le comportement de plus en plus autonome des outils technologiques. Dans ce cadre, l’éthique en tant que telle constitue un mode de régulation des comportements basé sur le respect de valeurs que l’on juge essentielles, et apporter un cadre à l’utilisation des algorithmes de traitement. Il ne faut pas oublier la dimension temporelle (actions à long terme), et très souvent l’irréversibilité. La responsabilité des humains se retrouve au centre de l’éthique: ainsi, la responsabilité d’une entreprise c’est de savoir comment bien gérer, éthiquement parlant, ses actions numériques.

Les questions éthiques doivent faire partie intégrante de leur mission et ainsi construire une réflexion morale orientée. Dès lors, on ne parle plus d’une approche interdisciplinaire mais plutôt d’une fusion aboutissant à une véritable éthique du numérique où la question des implications sociales et morales s’intègre dans les NTIC. Dans ces conditions, il devient essentiel d’établir des attentes et des préconisations éthiques spécifiques au monde numérique, en gardant toujours en tête cette question: est-ce que le numérique peut induire un risque de mésusage de nos comportements éthiques qui va à l’encontre de la personne?

Évaluation de l’éthique des systèmes algorithmiques

Il est dès lors essentiel d’évaluer le numérique comme un système continu sans vouloir cloisonner les différents éléments qui le constituent. De fait, l’étude autour du traitement algorithmique se découpe selon trois catégories interdépendantes entre elles, à savoir:

-L’éthique des données (valeur intrinsèque): identification, construction, nature et caractéristique des données traitées par l’algorithme et les échanges de ces données.

-L’éthique des algorithmes (valeur de gestion): fonctionnement, opérations et processus associés à l’algorithme durant tout le long du cycle de vie des données.

-L’éthique des pratiques (valeur d’usage): explication sur la qualité des finalités et des résultats de l’algorithme.

Systèmes algorithmiques. | ADEL, CC BY.

La société que j’ai co-fondée, ADEL (algorithm data ethics label) se veut être le premier label éthique à vocation mondiale autour des données numériques et des algorithmes de traitement. Il s’agit de fournir un cadre de réflexions et de bonnes pratiques éthiques sur l’élaboration, la mise en place et l’usage des systèmes algorithmiques, intelligence artificielle et projets big data afin de mieux les concevoir, les encadrer, les contrôler et les suivre au sein des entreprises.

Ce label a été créé pour apporter du sens, de la sécurité, de la transparence et de la confiance aux traitements de données numériques des entreprises auprès des citoyens.

En voici plusieurs aspects:

-La confiance dans la protection et l’usage des données.

-La confiance dans la fiabilité, l’intégrité, et l’exactitude des données échangées.

-La confiance dans le contrôle effectif sur les données.

-La confiance dans la finalité, le fonctionnement et l’usage des algorithmes.

-La confiance dans la performance, la sécurité et la résilience des nouvelles technologies de l’information et de la communication et leurs réseaux de supports.

En conclusion, une gouvernance contraignante et stricte de sanctions autour des acteurs du numérique ne me paraît pas pertinente. L’aspect réglementaire illustré par les CNIL européennes ne devrait représenter qu’un dernier recours. Au préalable, il devient essentiel d’examiner la dimension éthique des traitements algorithmiques en amont. La gouvernance et l’encadrement des NTIC doivent largement dépasser la dimension rigide purement technologique et normative pour embrasser la dimension transversale, flexible, mouvante et évolutive de l’éthique algorithmique.

Cette éthique algorithmique doit s’imposer dans les années à venir comme pierre angulaire de la relation de confiance à construire avec le marché qui s’autorégule. Cela contribuera à rendre plus vigilants les utilisateurs et les instances publiques sur l’exploitation des big data, et à se demander jusqu’où l’on peut échanger sa vie privée pour des services numériques.

La version originale de cet article a été publiée sur The Conversation.

The Conversation

Slate.fr

Newsletters

Résidence Provisoire

Résidence Provisoire

«Il y a 60 ans, le 9 août 1956, naîssait la Société Nationale de Construction pour les Travailleurs Algériens, la Sonacotra, raconte Florence Brochoire. Sa fonction était de construire des foyers pour les travailleurs migrants algériens qui...

Surpopulation: des villes entières... sous terre?

Surpopulation: des villes entières... sous terre?

Avec une population mondiale estimée à 9,5 milliards d'individus en 2050, dont une grande majorité vivra en ville, le problème de la surpopulation urbaine est devenu un enjeu crucial. Et si on colonisait le sous-sol des mégapoles?

C'est le printemps!

C'est le printemps!

Newsletters