Tech & internet

Une étudiante accusée de tricherie à un examen par une intelligence artificielle

Temps de lecture : 2 min

«Vous avez été observée en train de regarder plusieurs fois en bas et sur les côtés avant de répondre aux questions.»

En 2021, l'entreprise Honorlock a permis de surveiller plus de 9 millions d'examens. | Agence Olloweb via Unsplash
En 2021, l'entreprise Honorlock a permis de surveiller plus de 9 millions d'examens. | Agence Olloweb via Unsplash

C'est en Floride que l'affaire a eu lieu. Élève d'un cours de biologie à distance au Broward College, une adolescente de 17 ans a reçu un avertissement pour tricherie. La raison? La start-up Honorlock l'aurait surprise, grâce à son intelligence artificielle (IA), en train d'agir de manière suspecte lors d'un examen en février. Le New York Times s'est penché sur ce cas après avoir reçu un mail de sa part, se présentant comme «une femme noire accusée à tort de malhonnêteté académique par un algorithme».

L'étudiante s'est vu attribuer la note de zéro à la suite de cet incident. L'IA n'est pas seule à avoir concouru à cette sanction: la bureaucratie académique, plusieurs humains et un outil de reconnaissance faciale conçu par Amazon (Rekognition) sont également responsables.

La pandémie de Covid-19 a été une période faste pour les entreprises proposant de la surveillance à distance. Ces dernières ont développé de multiples extensions de navigateurs permettant de détecter des mouvements ou de récolter des enregistrements d'écrans ou de micros d'ordinateurs, des méthodes traditionnellement utilisées par la police.

Honorlock est l'une d'entre elles. Créée par un couple de diplômés d'école de commerce, la start-up a permis de surveiller plus de 9 millions d'examens en 2021, demandant 5 dollars par test et 10 dollars par étudiant. 40 millions de dollars ont été investis dans le projet au total (environ 37,4 millions d'euros), la grande majorité depuis le début de la pandémie.

Une question d'interprétation

L'adolescente n'est pas la première personne à se plaindre d'une fausse allégation de triche due à un logiciel de surveillance, mais elle est l'une des rares à avoir reçu une «preuve»: une vidéo d'elle d'une durée de cinquante secondes.

Les cours à distance se développaient déjà avant la pandémie pour des raisons d'emploi du temps notamment, mais ils comportent des limites. En 2021, par exemple, un élève en histoire de l'art a envoyé un mail à son professeur à propos d'un cours préenregistré avant de découvrir que ce dernier était décédé depuis deux ans.

Lors de l'examen qui a eu lieu en février, l'adolescente a respecté toutes les règles recommandées par Honorlock: ne pas utiliser son téléphone et être seule dans la pièce, entre autres. Elle a pourtant reçu par la suite un mail de sa professeure lui indiquant qu'elle avait été repérée par le dispositif en train de tricher. On peut y lire: «Vous avez été observée en train de regarder plusieurs fois en bas et sur les côtés avant de répondre aux questions.»

Après un rendez-vous avec cette professeure (que l'adolescente n'avait jamais rencontrée auparavant), où elle a essayé d'expliquer qu'elle réfléchissait simplement en regardant ses mains, le verdict est tombé: «responsable de ne pas s'être conformée aux instructions». Cooper Quintin, membre de l'ONG Electronic Frontier Foundation, se révolte: «Qui fixe son examen pendant l'épreuve entière? C'est ridicule, ce n'est pas humain. Des comportements normaux sont sanctionnés par ce logiciel.»

Selon lui, le problème est que les institutions prennent les résultats des analyses de l'IA pour «la parole de Dieu». La porte-parole de Honorclock, Tess Mitchell, a quant à elle déclaré: «En aucun cas nous n'identifions définitivement les tricheurs, la décision finale appartient à l'école.» C'est donc à la professeure que revient la décision d'avoir sanctionné l'adolescente pour ce «comportement suspect».

Newsletters

Adieu Outlook, j'ai pourtant essayé de t'aimer

Adieu Outlook, j'ai pourtant essayé de t'aimer

J'ai tenté d'abandonner Gmail mais j'y suis revenue en quatrième vitesse.

En mémoire de l'horloge parlante

En mémoire de l'horloge parlante

Orange a annoncé qu'à partir du 1er juillet, ce service historique ne serait plus disponible. Il fallait bien lui rendre un dernier hommage.

Aux États-Unis, les recherches Google sur l'avortement en disent long sur l'inquiétude générale

Aux États-Unis, les recherches Google sur l'avortement en disent long sur l'inquiétude générale

«Les grossesses extra-utérines sont-elles traitées par une IVG?», «Que protège l'arrêt Roe v. Wade en dehors de l'avortement?», «L'IVG est-elle légale aux Bahamas?» font partie des requêtes les plus tapées depuis la décision de la Cour suprême.

Podcasts Grands Formats Séries
Slate Studio