Entretien avec Juan Sebastián Carbonell sur l‘IA

• Propos recueillis par Alex Korber
  Syndicat CGT FERC Sup de l’ENS de Paris

Pourquoi l’IA des agents conversationnels ne peut pas être émancipatrice ?

Il faut commencer par inscrire l’IA dans son histoire et rappeler que ce n’est pas une technologie nouvelle. En tant que discipline, elle existe au moins depuis les années 1950, sous plusieurs définitions qui se sont fait concurrence. Ce que l’on connaît aujourd’hui comme IA n’est qu’une des variantes qui s’est imposée.

L’IA et ses variantes ont toujours permis dans le monde du travail de contourner les qualifications des salariés, d’accroître le contrôle sur le processus et la force de travail et cela depuis les années 1980. Les liens entre exploitation et IA ne sont donc pas nouveaux.

Les premiers « systèmes experts » ont tenté de tayloriser des métiers hautement qualifiés. Il s’agissait de programmes permettant de résoudre des problèmes à partir de bases de données constituées de connaissances spécifiques sur la base de règles logiques « si…alors… ». Un ingénieur « cogniticien » cartographiait les connaissances d’un expert humain pour que le système « capture » ces connaissances et les intègre dans ce système.

Dans le cas de l’IA contemporaine dite « connectiviste », on constitue aussi une base de données qui, cette fois, n’est plus générée suite à un entretien avec un expert, mais de manière plus large, à l’échelle d’une entreprise ou sur Internet. Voilà à mon sens la logique des IA qu’on peut décrire comme un taylorisme numérique ou une dépossession machinique.

Aujourd’hui finalement a-t-on éliminé le « cogniticien » ?

Oui. Il reste le « data scientist » pour produire la structure qui permet la captation des données, les analyser et les réinjecter. Il ne s’agit pas d’une technologie émancipatrice car elle sert à exproprier les travailleurs de leurs connaissances, leur savoir et leur expertise, même si cela reste sous le contrôle des travailleurs dans une économie socialisée.

Par ailleurs, l’IA nécessite énormément d’eau pour fonctionner et refroidir les datacentres, énormément d’énergie, de matériaux rares. Il est également nécessaire de faire appel à l’exploitation de « micro travailleurs » effectuant un travail d’annotation sur des images ou du texte. Ce sont des travailleurs délocalisés, ce qui implique une nouvelle dimension coloniale. Il est donc difficile de penser que cette immense infrastructure numérique se réalise à des fins émancipatrices. Je reprend cette analogie dans mon livre avec la chaîne de montage, comme le paroxysme du taylorisme et donc de l’exploitation.

Quelques retours d’expériences : Un collègue étant dyslexique, trouve confortable de s’aider d’un agent conversationnel pour rédiger des courriels. Une autre collègue qui travaille dans un service de scolarité est confrontée aux difficultés de certains étudiant·es avec la langue française et ont aussi recourt à ces « agents » pour traduire et faciliter la compréhension des démarches administratives. Enfin, dans le contexte syndical, de plus en plus de camarades s’emparent de ces agents pour confectionner les visuels et le texte des tracts revendicatifs. Dans ces situations de plus en plus fréquentes, comment convaincre les collègues et les camarades de ne plus utiliser ces « outils » et dans ce cas, quelles alternatives leurs proposer ?

D’abord je ne suis pas pour condamner les personnes utilisant les IA car il s’agit d’un enjeu collectif et politique. Ensuite, le fait qu’on se sente obligé de les utiliser révèle d’une part que l’éducation nationale manque de moyens pour former à la maîtrise de la langue et d’autre part, cela montre qu’en société, nous sommes jugés sur la simple base de nos fautes d’orthographes. Il ne s’agit pas d’un problème technologique, mais social.

En contexte professionnel, il existe la « shadow adoption », l’utilisation individuelle d’un outil ou d’astuces pour rendre le travail moins pénible, sans que l’employeur en soit informé. Cela n’est pas nouveau et n’allège pas pour autant la quantité de travail effectué : au contraire, l’objectif implicite des IA est d’augmenter les cadences au risque parfois de retirer certaines tâches valorisantes. Se sentir obligé d’utiliser l’IA visibilise des situations de surcharge ou d’intensification du travail.

Je ne dis pas que nous ne « devrions pas » utiliser les IA. C’est comme l’automobile : nous sommes majoritairement contraints de l’utiliser quotidiennement en sachant les dégâts que l’industrie automobile fait à nos environnements. Cela ne nous empêche pas de penser un horizon social et politique sans ces besoins.

Il y a un discours majoritaire présentant l’usage des IAg comme inéluctable. Dans ton livre, tu décris des « vagues » de l’IA, avec des hauts et des bas. Comment contrer ce type de discours ?

Effectivement, l’IA est décrite comme « inéluctable » ou « nécessaire » et le discours géopolitique décrit la France comme « à la traîne » et devant rattraper un retard vis-à-vis de ses concurrents comme les USA et la Chine. Il faut refuser cette idéologie du progrès inéluctable et unilatéralement positif qui occulte les aspects négatifs. Notamment qu’une partie de la population pâtisse ou ne puisse pas s’emparer de ces technologies. Sans parler des dégradations des conditions de travail, des dégâts de l’extractivisme dans les pays dépossédés de leurs minerais, l’exploitation des populations à chaque étape : création, usage, gestion des déchets informatiques et les implications environnementales catastrophiques. L’IA n’est pas un progrès en soi.

Dans mon travail sur la branche logistique, où le management algorithmique est utilisé pour allouer des tâches, évaluer les salarié·es, les « discipliner », avec un système de récompense ou de punitions (licenciements), je montre que ces technologies ne sont pas infaillibles et qu’à chaque étape de leur implémentation, il peut y avoir des résistances de la part des salarié·es. Souvent, les salarié·es contribuent à leur propre aliénation. Lorsqu’un ouvrier dans l’industrie automobile utilise une visseuse connectée, il ne fait pas qu’assembler en vissant, il produit et offre aussi des données qui seront ensuite utilisées par la direction...et participe passivement à alimenter l’algorithme.

Les organisations syndicales peuvent aider à visibiliser ces contributions passives en rappelant que les IA font des erreurs et qu’il y a des contextes dans lesquels c’est impossible de les utiliser, en particulier les contextes collectifs. Il, est aussi important de construire une forme de résistance contre ces technologies qui subissent des moments d’inflation comme aujourd’hui mais qui ont subi aussi des déflations. On parle de « l’hiver de l’IA » et ça n’est jamais sans produire des dégâts, d’autant plus grands que l’IA devient une industrie à part entière. Il y aura d’autant plus de licenciements si l’hiver revient. Qui paiera l’explosion de cette bulle ?

Comment est apparu ce premier hiver de l’IA dans les années 80 ?

Pendant la guerre froide, la DARPA, l ’agence militaire américaine, finançait les premières technologies intelligentes. Les contextes scientifiques et géopolitiques n’étant pas favorables, les principaux investisseurs se sont rapidement désengagés. L’histoire se répète aujourd’hui : l’IA fonctionne sur l’économie de la promesse avec un risque de « bulle » spéculative. Peu de sociétés d’IA sont rentables et les premiers à payer la possible explosion de cette bulle seront les travailleurs du secteur.

Dans la fin de ton livre, tu décris une démarche néo-luddite ?

Le mouvement luddite est un mouvement ouvrier qui s’est opposé à l’utilisation des premières machines dans l’industrie du début du 19e siècle, principalement entre 1811 et 1813 en Angleterre. Un des modes d’action était la destruction de ces machines pour défendre l’idée qu’une autre trajectoire était possible, et qui ne serait pas celle de la déqualification des travailleurs, de l’intensification du travail ni la « mise au travail » massive des populations. La démarche néo-luddite sort du Capital et porte l’idée d’indépendance de classe. Un exemple concret : Il existait une alternative à la machine-outil à commande numérique, pensée finalement comme un outil de déqualification des tourneurs-fraiseurs. Appelée « record playback » et étudiée par David Noble [1] elle permettait d’enregistrer les gestes du spécialiste pour les restituer et ainsi garder le savoir-faire humain dans la boucle. Je pense qu’il faut s’opposer aux injonctions qui veulent adapter le monde du travail aux outils. Je cite dans le début de mon livre David Noble qui dit qu’ « une guerre fait rage et qu’un seul camp est armé ». Penser uniquement à des alternatives technologiques n’est pas suffisant. Elles existent la plupart du temps, mais sont invisibilisées par certains choix. Il faut donc créer une adhésion majoritaire aux technologies qui ont un impact écologique et social moindre. Je propose ici la perspective politique du contrôle ouvrier. Une perspective importante au 20e siècle, en perte de vitesse et qu’il faut relancer pour revendiquer les prérogatives de l’ouvrier sur le changement technologique et l’organisation du travail, en toute indépendance de l’employeur. Cela pourrait produire des changements technologiques inédits. Un exemple du contrôle ouvrier au travail, est celui des délégués à la sécurité dans les mines au début du 20e siècle, un peu les ancêtres des délégués du personnel avant qu’il ne soient institutionnalisés. Les délégués mettaient l’employeur face à ses responsabilités lors d’un accident au travail et vérifiaient les conditions de sécurité en amont pour s’en prémunir. Intervenir en direct sur le travail, décider d’alliances entre ingénieurs et ouvriers pour repenser son organisation, Harry Braverman [2] [3] écrit qu’éprouvant quotidiennement leurs pratiques, les travailleurs sont les mieux placés pour choisir et concevoir leurs technologies et leur organisation au travail.

Pourquoi ce paradoxe de devoir s’appuyer sur les technologies contemporaines malgré leur logique productiviste et néocoloniale, et leurs dégâts écologiques ?

L’effort ne devrait pas être de se projeter de manière abstraite dans des futurs technologiques, mais penser par quels moyens on y arrive. Le contrôle ouvrier des travailleurs de la « tech » est central. Ce sont aussi les oubliés des débats sur l’IA et ils se sont parfois opposés à des usages non souhaités (par exemple le mouvement « work out » des travailleurs de Google opposés en 2018 à un accord entre la firme et le Pentagone contre l’usage militaire des IA).

En tant qu’organisation syndicale, comment à la fois revendiquer une fin de ces industries délétères tout en défendant les salariés de ces mêmes industries ?

Nous savons que l’industrie de la pétrochimie n’est pas souhaitable, mais la fermeture de raffineries serait aujourd’hui punitive. La lutte de Grandpuits est à ce titre intéressante : les salariés raffineurs se sont alliés aux collectifs écologistes pour penser des alternatives à la seule fermeture du site et à la délocalisation à l’étranger de la production. Les raffineurs, les producteurs d’IA, les ingénieurs, les ouvriers ont leurs mots à dire sur la forme que devrait prendre la transition écologique et sociale.

• Dernier ouvrage de l’auteur