Des IA conçues pour surveiller les « émotions » des employés

Des logiciels d’IA sont conçus pour identifier les émotions humaines. Ces applications servent notamment à la surveillance des salariés, au nom de la recherche de l’efficacité au travail.

Un « jeu » qui entraîne l’IA à la lecture des expressions faciales

Au Portugal, McDonald’s vient de dévoiler une expérience qui se veut ludique. Avec « Mood de Mac » qui utilise l’intelligence artificielle MorphCast Emotion AI, le client se place devant un capteur qui identifie son émotion du moment. L’application lui propose une glace pour lui remonter le moral en cas de déprime, des nuggets à partager s’il est de bonne humeur…

Une IA qui analyse les « sentiments » des employés

L’« IA émotionnelle » analyse la voix, le débit, les expressions du visage des participants sur des vidéos de réunions ou d’entretiens d’embauche. Parfois, elle est utilisée pour analyser des transcriptions d’e-mails ou discussions en ligne et identifier les « sentiments » des employés. Cette fonctionnalité est intégrée dans des logiciels polyvalents, ou bien vendue en tant que produit autonome.

On peut d’ailleurs tester le logiciel MorphCast gratuitement pendant une période d’essai, sans logiciel particulier. Il convient de noter qu’à aucun moment, on ne demande à l’utilisateur de vérifier le consentement des personnes dont il s’apprête à analyser les émotions (cf. IA : le Vatican appelle à ne pas « brouiller la frontière entre ce qui est humain et artificiel »).

Des domaines d’activités divers concernés – incluant l’apprentissage scolaire

Comme d’autres grandes entreprises, l’assureur MetLife utilise des logiciels pour analyser le vocabulaire et les inflexions de voix des agents de ses centres d’appels. Burger King teste actuellement un chatbot intégré aux casques de ses employés, Patty, qui évaluera le caractère convivial de leurs interactions.

Les entreprises de transport routier ont recours à divers équipements d’enregistrement ultra-sensibles et des scanners d’ondes cérébrales pour détecter les signes de détresse ou de fatigue chez les chauffeurs. La chercheuse en sciences de l’information Karen Levy, de l’Université de Cornell, a étudié les conséquences des « IA émotionnelles » dans le secteur du transport routier, un domaine qui, en raison de sa main-d’œuvre mobile et dispersée, a longtemps échappé à la surveillance. En 2016, le gouvernement fédéral a commencé à rendre obligatoire la captation et l’enregistrement électronique des données, dans le but de réduire les effets du surmenage. Ces procédés ont généré une forme de stress supplémentaire, sans réduire le nombre d’accidents.

Même les enfants sont visés. Sur l’application Hocus Pocus, MorphCast surveille l’attention des élèves en mesurant les mouvements des yeux de l’enfant pendant qu’il exécute une tâche.

Un processus pour faire accepter les IA de surveillance

En 2022, l’écrivain Cory Doctorow a pointé le fait que les technologies de surveillance touchaient d’abord des personnes qui ne sont pas en mesure de protester : travailleurs peu rémunérés, prisonniers, patients psychiatriques, bénéficiaires d’allocations. Ensuite, l’opinion publique s’y habitue, ces outils sont acceptés et acquièrent une respectabilité sociale, avant d’être proposés à ceux qui occupent des postes plus élevés. Puis c’est l’ensemble de la société qui les utilise, dans la plupart des cas en toute confiance[1] (cf. Intelligence artificielle : une réunion au sommet, sans consensus ; IA : le Parlement européen adopte un projet de régulation).

Des outils peu fiables…

Mais une IA peut-elle réellement percevoir les émotions humaines ? La psychologue Lisa Feldman Barrett est extrêmement sceptique sur ce point. Selon elle, il n’existe pas de marqueur fiable qui permette d’identifier une émotion : « Il existe des centaines et des centaines d’études portant sur des milliers et des milliers de personnes qui démontrent que, en matière d’émotions, la variation est la norme ». Par exemple, les gens froncent les sourcils lorsqu’ils sont en colère dans environ 35 % des cas ; et la moitié du temps, lorsque les gens froncent les sourcils, ils ne sont pas du tout en colère. Elle cite l’exemple d’un entretien d’embauche : « Imaginez-vous en entretien, vous écoutez très attentivement votre interlocuteur et vous froncez les sourcils… parce que vous êtes vraiment très concentré. Une IA vous identifie comme étant en colère. Vous êtes éliminé ».

En plein travail, un employé d’un centre d’appels hospitalier qui parle à un patient de son état de santé pourrait vite être perçu comme peu sympathique. Un employé de fast-food écoutant attentivement une commande, comme contrarié (cf. Intelligence artificielle : « la machine ne comprend pas »).

… et tant mieux ?

Si un jour l’IA devenait capable d’interpréter correctement nos expressions faciales et inflexions de voix… ne serait-ce pas encore pire finalement ? Tout en travaillant, il faudra surveiller nos expressions pour faire toujours croire à la machine que nous sommes enjoués et de bonne humeur…

[1] Cory Doctorow, The Shitty Tech Adoption Curve Has a Business Model (11/06/2023)

Sources de la synthèse de presse : The Atlantic, Ellen Cushing (03/05/2026) ; Creapills, Luna de Smet (13/05/2026)