L’incroyable travail caché derrière les prétendues « intelligences artificielles »

Kate Crawford met au jour l’existence de ces travailleu·ses invisibles et sous-payé·es, souvent dans des pays non-occidentaux, qui sont derrière les systèmes faussement « intelligents » vantés par l’industrie numérique. « Tout ce travail – de l’étiquetage d’images pour les systèmes de vision par ordinateur à la vérification qu’un algorithme produit les bons résultats – permet d’améliorer les systèmes d’IA bien plus vite et à moindre coût, surtout si on le compare à la rémunération d’étudiants pour ces mêmes tâches (comme c’était la tradition auparavant) », écrit-elle. Voici comment.

Quand on demande aux travailleu·ses de se faire passer pour des machines

« Parfois, on demande directement aux travailleurs de se faire passer pour un système d’IA. La start-up d’assistants numériques x.ai a prétendu que son agent Amy pouvait »planifier des réunions comme par magie« et gérer de nombreuses tâches quotidiennes ordinaires. Mais une enquête détaillée de Bloomberg menée par la journaliste Ellen Huet a révélé qu’il ne s’agissait pas du tout d’intelligence artificielle. »Amy" était soigneusement contrôlée et remaniée par une équipe de contractuels effectuant de longues journées de travail. (1) De même, l’assistant personnel de Facebook, M, dépendait de l’intervention régulière d’un groupe de travailleurs payés pour examiner et modifier chaque message.
Simuler l’IA est une tâche épuisante. Les employés de x.ai faisaient parfois des journées de quatorze heures à annoter des e-mails pour maintenir l’illusion que le service était automatisé et fonctionnait 24 heures sur 24, 7 jours sur 7. Ils n’avaient pas le droit de partir le soir tant que tous les e-mails en attente n’étaient pas traités. « En sortant, je me sentais totalement hébété, dépourvu de toute émotion », a confié un employé à Ellen Huet.
Astra Taylor appelle cette façon de survendre des systèmes high-tech qui ne sont pas réellement automatisés « fauxtomation ». Les systèmes automatisés semblent faire le travail auparavant effectué par des humains, mais en fait ils ne font que coordonner le travail humain de l’arrière-plan. Taylor cite l’exemple des bornes libre-service dans les fast-foods et des caisses automatiques dans les supermarchés comme autant d’endroits où le travail d’un employé semble avoir été remplacé par un système automatisé, mais où, en réalité, le travail de saisie des données a simplement été transféré d’un employé rémunéré au client.« 

L’isolement et l’exploitation des travailleu·ses

 »Parallèlement, de nombreux systèmes en ligne qui fournissent des décisions apparemment automatisées, comme la suppression des doublons ou des contenus offensants, sont en fait alimentés par des humains qui travaillent depuis chez eux sur une file interminable de tâches rébarbatives. Comme les villages et les ateliers modèles de Potemkine (2), beaucoup de systèmes automatisés reposent sur une combinaison de travailleurs à la pièce sous-payés et de consommateurs assumant des tâches non rémunérées pour faire fonctionner les systèmes. Les entreprises, elles, cherchent à convaincre les investisseurs et le grand public que des machines intelligentes font le travail.
La fauxtomation ne remplace pas directement la main d’oeuvre humaine ; elle la délocalise et la disperse dans l’espace et le temps. C’est ainsi qu’elle renforce la déconnexion entre le travail et la valeur, et remplit une fonction idéologique. Les travailleurs, aliénés des résultats de leur travail et déconnectés des autres effectuant les mêmes tâches, sont susceptibles d’être plus facilement exploités par leurs employeurs. On le voit bien au taux de rémunération dérisoire des crowdworkers (3) à travers le monde. Tout comme d’autres ouvriers de la fauxtomation, ils sont confrontés au fait très réel que leur travail est interchangeable avec celui de milliers d’autres travailleurs qui sont en concurrence sur les plateformes. Un crowdworker peut à tout moment être remplacé par un autre, ou éventuellement par un système plus automatisé.
Les formes actuelles d’intelligence artificielle ne sont ni artificielles ni intelligentes. Nous devrions plutôt parler du dur labeur physique des mineurs, des tâches répétitives des ouvriers sur les chaînes de montage, du travail cybernétique sous-traité des programmeurs dans les ateliers de misère, du crowdsourcing (4) mal payé de Mechanical Turk (5), et du travail immatériel non rémunéré des utilisateurs quotidiens. Ce sont les lieux où on voit que la computation planétaire dépend de l’exploitation de la main-d’oeuvre humaine, tout le long de la chaîne logistique d’extraction."

Notes :
(1) La start-up X.ai, basée à New-York et aux Philippines, propose un service de soi-disant intelligence artificielle censée « gérer l’intégralité des échanges jusqu’à la prise de rendez-vous. Vous n’êtes même pas obligé de préciser l’heure et le lieu car ces assistants ont accès à votre emploi du temps et connaissent vos habitudes. » (Dennis Mortensen, fondateur de X.ai, Journal du net, 9 mars 2018).
(2) En 1787, lors de la visite de CatherineII en Crimée, le ministre russe Potemkine aurait fait ériger de luxueuses façades en carton-pâte pour masquer la pauvreté des villages. Depuis, on désigne par « village Potemkine » un trompe-l’oeil à des fins de propagande.
(3) Crowdworkers : ouvrièr·es du clic.
(4) Le crowdsourcing est la pratique qui correspond à faire appel au grand public ou aux consommateurs pour proposer et créer des éléments de la politique marketing (choix de marque, création de slogan, de vidéo, etc.) ou même pour réaliser des prestations marketing.
(5) Le « turc mécanique » était un joueur d’échecs mécanique créée par le hongrois Wolfgang von Kempelen en 1770. L’automate, d’apparence orientale, était capable de battre les humains et a été présenté dans les cours d’Europe. Mais en réalité un maître du jeu humain caché dans le meuble faisait fonctionner la machine de l’intérieur.
(6) Chatbot : agent conversationnel ou dialogueur. Logiciel qui dialogue avec un·e utilisat·rice.