Concevoir pour l’humain dans la boucle — Partie III

Voici le dernier volet d’une série de trois articles sur la façon dont la réglementation de l’IA peut nous aider à nous attaquer aux problèmes de fond. La partie I présentait le règlement européen sur l’IA comme la probable norme mondiale du développement responsable de l’IA. La partie II redéfinissait ce pour quoi nous nous battons réellement : la place du pouvoir d’agir humain dans la conception des technologies. Ce dernier volet s’adresse aux entreprises qui veulent prendre soin de leurs équipes dans un avenir du travail fait de chaînes de montage cognitives.

Je commence à entretenir une relation d’amour-haine avec l’expression « avenir du travail ».

Il arrive, il est déjà là, mais, comme le dit William Gibson, il est inégalement réparti.

Certains en tirent le meilleur, d’autres en subissent le pire.

Beaucoup de ceux qui en subissent le pire accomplissent un « travail fantôme ». Une grande part du travail humain est indispensable au fonctionnement des systèmes d’IA, mais elle reste largement invisible dans les grands récits de la transformation numérique. Les consommateurs profitent de livraisons presque instantanées et de fils de réseaux sociaux débarrassés d’images obscènes. En coulisses, des centaines de milliers de personnes, voire des millions, font tourner ces services et peinent à suivre le rythme de ces machines surpuissantes.

Le livre Ghost Work, de Mary L. Gray et Siddharth Suri, a commencé à décrire cette catégorie de travailleurs qui porte la révolution de l’IA : annotateurs de données, testeurs et livreurs. Presque tous travaillent à la tâche, en dehors des formes et des protections traditionnelles de l’emploi. Je crois que cette composante humaine de l’automatisation par l’IA occupera très bientôt une place bien plus centrale dans la plupart des récits.

À mesure que les entreprises déploient l’IA, des emplois plus traditionnels rencontrent les mêmes difficultés que ces travailleurs fantômes. Malgré tous les efforts pour réduire les risques pour les consommateurs — vie privée, biais injustes et recommandations des réseaux sociaux — la gouvernance et la réglementation ont à peine examiné cet avenir du travail déjà présent.

IA et causalité : pourquoi l’IA a besoin de tant d’humains dans la boucle

Comprendre les liens de cause à effet est difficile pour l’IA. Une grande partie des systèmes actuels prédit la probabilité de régularités dans de vastes ensembles de données. Cette détection a permis à l’IA de développer des « sens », comme la vue et l’ouïe, et de prédire certains comportements, comme le fait de cliquer sur un lien. Mais elle fonctionne souvent sans modèle des relations causales. 

Devant une vidéo au ralenti d’un joueur de baseball frappant une balle, nous savons qu’il manie la batte pour frapper et repousser la balle, et non l’inverse. Un modèle d’IA pourrait reconnaître une balle courbe lancée par un gaucher à 93,6 milles à l’heure, avec un déplacement latéral de 23 pouces, sans comprendre les relations causales entre le frappeur, la batte et la balle.

En médecine, cela devient particulièrement délicat lorsqu’il faut déterminer les effets d’un médicament et savoir si d’autres variables confondantes ont causé une maladie. Il peut s’agir, par exemple, de déterminer si un médicament donné à une personne hypertendue présente un risque de crise cardiaque. Ce jugement est très difficile pour une machine, qui n’a pas nécessairement accès à toutes les variables utiles, mais assez courant pour un médecin.

La recherche en IA travaille à intégrer des modèles causaux à l’apprentissage automatique, mais intégrer cette expertise propre à chaque domaine au stade de la recherche et du développement est difficile. Jusqu’ici, le domaine a progressé très vite grâce aux techniques de reconnaissance de régularités, par essais et erreurs sur de grands jeux de données. Un seul chercheur ou ingénieur peut mener ces expériences en ajustant un modèle jusqu’à ce qu’il fonctionne assez bien sur les données de test. Pour intégrer des modèles causaux, il faut faire intervenir davantage de spécialistes d’autres domaines, avec leurs vocabulaires et leurs méthodes. À cela s’ajoute la concurrence entre les approches sur la façon même d’introduire la causalité dans l’apprentissage automatique. On comprend aisément les nombreuses frictions à surmonter.  

Une solution consiste à faire appliquer les modèles causaux par des experts humains, au stade de l’annotation des données et à celui de l’application. Pour l’annotation, les experts peuvent former les personnes qui préparent les données à repérer les variables causales dans les données d’entraînement. Cela permet de déployer très efficacement les modèles de reconnaissance de régularités à grande échelle, avec les méthodes traditionnelles et toutes les données disponibles. Toutefois, tant que les modèles causaux ne sont pas intégrés au modèle d’IA lui-même, celui-ci reste très spécialisé : il aura du mal à s’adapter à de nouvelles situations sans être guidé. 

Au stade de l’application, l’expertise du domaine est de nouveau nécessaire pour donner à la machine les bons objectifs et une compréhension du contexte, afin d’éviter les erreurs face à des situations absentes de son entraînement. Un système d’IA pouvant réunir de nombreux modèles, les points où un humain doit intervenir « dans la boucle » se multiplient. Dans un avenir prévisible, la plupart des systèmes d’IA seront déployés avec de nombreux humains dans ces boucles. Ils dépendront fortement de la capacité de ces personnes à mobiliser leur expertise des relations de cause à effet dans leur domaine.

Les chaînes de montage cognitives

L’automatisation industrielle a rendu les tâches physiques interchangeables et conduit à la chaîne de montage. Je crois que nous verrons la même évolution avec des chaînes de montage de tâches cognitives. Dans cet « avenir du travail » déjà présent, l’IA automatise l’acheminement, le découpage et la distribution du travail, tout en restant très dépendante de « rouages » humains. Pour rendre ces systèmes aussi efficaces que possible, on classe précisément le travail en tâches, puis on les confie aux machines ou aux humains selon qui les accomplit le mieux.

La transformation du travail en tâches interchangeables gagne les travailleurs du savoir. Nous le voyons dans les courriels et les listes de tâches croissantes produites par les systèmes automatisés d’organisation et de répartition du travail. Avec les progrès de l’IA, davantage d’emplois seront ainsi découpés, notamment :

• Les agents des centres de contact
• Les coordonnateurs de projets
• Les experts en détection d’anomalies
• Les personnes chargées d’étudier les cas limites

Cette évolution passe en partie inaperçue parce que davantage de personnes travaillent à domicile pendant la pandémie, alors que leur emploi se transforme en tâches de chaîne de production. Elle est aussi progressive : nous travaillons au même ordinateur et au même bureau, et nous nous sommes habitués aux listes de notifications et de tâches envoyées par les outils de productivité. La dynamique de la chaîne cognitive ne nous est pas étrangère.

Dans l’assurance, les demandes d’indemnisation produites automatiquement à partir de quelques photos d’une voiture nécessitent une aide humaine pour les cas limites. Malgré l’automatisation du secteur, les personnes qui vérifient les demandes restent indispensables pour leur jugement et leur expertise. Les systèmes d’IA les rendront bien plus productives, mais les entreprises semblent surtout y voir une occasion de réduire les effectifs ou d’embaucher des personnes moins qualifiées. La répétition des tâches aura aussi des conséquences : elle empêchera les employés de traiter le travail aussi vite que la machine le leur transmet.

Les contrôles de sûreté des bagages à main dans les aéroports en sont un exemple visible. Un agent regarde sur un écran les radiographies de chaque bagage. Dans la plupart des régions du monde, ces systèmes sont assistés par l’IA : la détection d’objets déclenche des alertes sur les articles dangereux. Ces alertes ne suffisent pas, d’où la présence d’un humain pour décider qui peut passer et qui doit subir un contrôle supplémentaire.

Le travail de cet agent se réduit à regarder une image après l’autre et à accepter ou rejeter les alertes. C’est très efficace pour inspecter finement le contenu des bagages et faire avancer les files. Mais, comme lors de l’introduction de la chaîne de montage de Ford, ces avantages s’accompagnent de nouveaux problèmes.

Un article d’une entreprise d’IA faisant la promotion de son logiciel de détection aéroportuaire décrit bien les difficultés de ce travail à la chaîne, notamment :

• Les 2,5 secondes dont dispose l’agent pour observer chaque bagage
• L’environnement chaotique qui nuit au jugement
• La longue liste d’objets à rechercher, à laquelle s’ajoutent de nouvelles menaces
• La baisse rapide de précision après seulement dix minutes de travail
• La rareté des vraies menaces, qui rend les vrais positifs encore moins fréquents
• L’absence presque totale de reconnaissance lorsqu’une menace est repérée, entraînant insatisfaction, baisse de performance et roulement élevé

Les systèmes d’IA comptent de nombreuses personnes dans la boucle pour les superviser et y contribuer. Tout un ensemble de règles juridiques et de gouvernance organisationnelle encadre cette supervision. Le problème est que ces règles ne couvrent pas les effets sur les humains qui interviennent dans la boucle. Adapter après coup les politiques de ressources humaines et le droit du travail ne suffira pas : ces facteurs humains doivent être pris en compte dès la conception des systèmes.

Les systèmes d’IA comptent de nombreux humains dans la boucle

Concevoir pour l’humain dans la boucle

Le passage à la chaîne de montage a vraiment pris son essor en 1914, lorsque Henry Ford l’a introduite dans son usine avec un succès spectaculaire. Sa généralisation a entraîné de nouveaux types de blessures liés aux tâches extrêmement répétitives. Il a fallu attendre les années 1950 pour que l’ergonomie s’établisse hors du milieu militaire, puis les années 1970 pour qu’elle considère couramment les facteurs cognitifs en plus des facteurs physiques. 

La nécessité d’intégrer les facteurs humains à l’ingénierie des systèmes d’IA est de mieux en mieux reconnue, mais le chemin reste long.  Cet article scientifique a cartographié la recherche et souligné sa rareté, surtout lorsqu’il s’agit d’associer les travailleurs à la conception de systèmes ergonomiques.

Attendre de l’IA qu’elle assume à elle seule tous les gains de productivité attendus, c’est en réalité demander aux humains de les fournir. Or, ils ne pourront pas atteindre les standards que nous fixons aux machines. Cela nuira à la santé des travailleurs comme à celle des entreprises. 

L’enjeu dépasse la sécurité. Dans toutes les entreprises avec lesquelles j’ai travaillé, cette attention aux personnes qui interviennent dans la boucle est LA différence qui distingue celles qui réussissent à déployer l’IA à grande échelle. Même pour les plus fervents partisans de l’automatisation, ce n’est pas une mauvaise chose : les économistes nous disent que la véritable création de valeur nouvelle par l’IA réside dans la création de nouveaux emplois. Cette démarche oblige les organisations à réfléchir à la meilleure façon d’utiliser l’expertise de leurs équipes, au lieu de simplement la remplacer par l’automatisation. 

Avec la pénurie de talents, les entreprises gagneront aussi un avantage si elles ajoutent à la gouvernance de leurs systèmes d’IA une dimension qui tient compte de ces facteurs humains : la performance des travailleurs, leur ressenti, les moyens de les retenir et l’amélioration de la productivité de bout en bout.

Concevoir les systèmes pour la collaboration entre humains et machines permettra de créer de la valeur et des gains de productivité véritablement nouveaux. Voici le cadre sur lequel je travaille pour prendre en compte les facteurs qui concernent l’humain dans la boucle.

Confiance : explicabilité, mécanismes de rétroaction, transparence des performances

On parle beaucoup de confiance en matière de gouvernance. Elle doit compter autant pour vos employés que pour vos clients. Comme dans une collaboration entre personnes, ceux qui ne font pas confiance à la machine ne travailleront pas avec elle de manière fiable : ils lui fourniront de mauvaises données ou n’accepteront pas ses apports. Le principal problème, aujourd’hui, est que nos interfaces n’ont jamais été conçues pour la collaboration. 

Rendez d’abord la machine compréhensible. Privilégiez des recommandations explicables, que le travailleur peut rapprocher de son propre contexte. Donnez-lui ensuite des moyens clairs et simples de transmettre ce contexte à la machine pour améliorer ses prévisions futures. Enfin, affichez honnêtement la précision et la performance. Si la machine fonctionne mal, elle doit le signaler : les employés pourront alors l’aider à progresser.

Motivation: Formation, liens sociaux, partage de la valeur

Pour disposer d’une machine très précise, exacte et adaptable, vous aurez besoin de ces personnes dans un avenir prévisible. Elles seules peuvent apporter l’agilité, la robustesse, l’exactitude et la précision nécessaires pour rester compétitif. Les personnes qui font ce travail depuis des années sont celles qui sauront repérer les possibilités invisibles pour les machines. Assurez-vous qu’elles se sentent parties prenantes de la création de valeur nouvelle pour l’entreprise, plutôt que cibles de l’automatisation.

La formation est le facteur le plus important. Elle montrera aux employés la valeur unique qu’ils apportent et comment la mettre au mieux à profit dans la collaboration avec les machines. Il n’existe pas encore de meilleures pratiques pour ces nouveaux systèmes. Donnez aux travailleurs des moyens de créer des liens et de partager leurs techniques et leurs découvertes dans ces nouvelles collaborations. Cela renforcera le sentiment de faire équipe, même avec de nouveaux coéquipiers qui sont des machines.

Le dernier volet sera peut-être difficile à accepter pour certaines entreprises : donner aux employés une part de la valeur qu’ils créent. Cela dépasse les options d’achat d’actions et le partage des profits. Ils apportent leur propriété intellectuelle. Pour pouvoir faire durer leur carrière grâce à l’expertise qu’ils ont acquise, il leur faut non seulement des compétences de collaboration avec les machines, mais aussi la possibilité d’emporter certains des réglages qu’ils y ont apportés. Ce dernier point reste très théorique, mais il est incontournable. Plus cette portabilité pourra être définie finement, mieux ce sera. Sinon, des solutions approximatives laisseront tout le monde insatisfait.

Sécurité : ergonomie, esprit critique, vie privée

Nous avons déjà beaucoup abordé ce point : réduire les risques de blessures physiques et d’atteintes cognitives. Ne vous laissez pas prendre par l’illusion d’avoir affaire uniquement à un système d’IA. Soyez très attentif aux étapes du processus où des humains interviennent, pour ne pas leur imposer des attentes conçues pour des machines. La recherche ayant pris beaucoup de retard, il sera d’autant plus important d’écouter les employés lorsqu’ils signalent une difficulté dans leur travail avec la machine. Cette écoute renforcera aussi la confiance, tout en permettant de mieux adapter les systèmes à l’expertise métier des travailleurs.

Humains et machines commettront des erreurs et auront parfois des biais. Le système doit éviter une confiance excessive envers l’un ou l’autre. Concevez une expérience qui favorise et récompense l’esprit critique, avec des dispositifs de sécurité et des limites de fonctionnement pour prévenir les erreurs majeures des deux côtés.

Dans tout cela, la vie privée des travailleurs doit être préservée. Certains mécanismes de rétroaction exigeront un degré de surveillance des employés bien au-delà de ce que notre société accepte généralement. Garantir leur vie privée, prévoir des recours en cas de violation et protéger la valeur qu’ils apportent contribueront à une sécurité psychologique essentielle.

Le chemin vers l’avenir est incertain.

Faire fonctionner l’IA demandera beaucoup d’efforts humains avant qu’elle devienne totalement autonome, si elle le devient un jour.

Les risques sont nombreux, et le travail se transformera probablement plusieurs fois en chemin.

Je crois que le travail du savoir et le travail à la chaîne continueront de converger : les travailleurs du savoir accompliront davantage de tâches standardisées et répétitives, tandis que les travailleurs de production seront davantage sollicités pour leur intelligence humaine et leur compréhension particulière du contexte.

Ces travailleurs subiront de plein fouet la transition vers l’avenir du travail. Nous ne pouvons pas simplement espérer qu’un équilibre apparaisse soudain et fasse rapidement oublier à tous le coût humain du parcours.

Beaucoup de protections nécessaires existent déjà. Le règlement sur l’IA prolonge largement les droits de la personne dans ce nouveau contexte technologique et impose leur prise en compte dans la conception. Il reste cependant surtout un ensemble d’orientations, avec quelques limites strictes dans les cas extrêmement risqués.

Les entreprises devraient veiller à la santé et au bien-être des personnes qui accomplissent des tâches répétitives et reconnaître réellement leur savoir particulier pour en faire bénéficier l’organisation. 

Chaque entreprise choisira évidemment sa position sur le spectre de la gouvernance. La loi fixe certaines limites pour certains usages, mais beaucoup de décisions restent à l’organisation.

Je parie que les entreprises qui viseront un niveau d’excellence plus élevé dans la contribution de leurs employés aux systèmes automatisés créeront le plus de valeur.

Pour commencer, il suffit de reconnaître les humains présents dans la boucle de ces systèmes automatisés et d’accorder au moins autant d’attention à leur bien-être qu’au fonctionnement de l’ensemble du système. Demandons-nous : qui interviendra dans la boucle, et quelle expérience devons-nous concevoir pour ces personnes?

////

Partie I — Réglementer l’IA : une occasion de résoudre les problèmes de fond

Partie II — « F*** l’algorithme » : il est temps de reprendre notre pouvoir d’agir