Le premier des défis à relever est celui de sa définition. Pour S. d’Ascoli, «l’IA est un terme vague, subjectif, dont le sens évolue au gré des avancées techniques »². L. Julia va encore plus loin  en répétant que « l’IA n’existe pas »³. Positions désarmantes venant de deux experts ayant travaillé pour les GAFAM. Le juriste B. Barraud propose de définir l’IA comme l’ensemble « des dispositifs technologiques visant à simuler et, in fine, remplacer l’intelligence naturelle, cherchant à reproduire les capacités de l’homme et de l’animal à percevoir, discerner, comprendre, apprendre, raisonner, calculer, mémoriser, comparer, choisir, etc.⁴

En suivant les apports des penseurs technocritiques, on peut définir l’IA, comme une nouvelle phase de l’automatisation du travail, voire de l’automatisation de la société⁵, portée par le capitalisme.

Des IA au service du capitalisme, contre les libertés et le vivantces économiques

Si l’informatique a pu incarner des espoirs d’une contre-société, relancés par le développement d’internet et de ses promesses de piratage du capitalisme, force est de reconnaître avec F. Treguer que cette utopie est déchue⁶.

Les IA dites génératives comme ChatGPT, en sont la terrible illustration : ces dispositifs nécessitent une formidable accumulation de données, d’infrastructures et de capitaux. Seuls les États les plus puissants et les entreprises les plus riches peuvent donc les financer et les développer. Par nature, ces IA ne peuvent être ni décentralisées, ni démocratiques. Si elles sont des outils, ce n’est que rarement entre les mains de leurs utilisateurs-consommateurs, mais plutôt au profit de ceux qui les produisent et les vendent.

Les IA sont aussi des produits commerciaux, pensés comme des leviers pour étendre la marchandisation. Chacun de nos gestes, d’ordre privé ou professionnel, devient observable, mesurable, transformable en données devenue marchandises. Les industriels du numérique et les États n’ont de cesse d’abolir les rares digues techniques ou juridiques nous protégeant de leur surveillance et de leur prédation.

Une prédation qui concerne aussi les biens communs et les vivants : pour fonctionner les IA nécessitent quantité de minerais, d’hydrocarbures ou encore d’eau ; leurs usages décuplent les émissions de gaz à effet de serre du secteur numérique – qui dépasse pourtant déjà ceux de l’aviation civile⁷.

Des constats si préoccupants que les patrons de la Silicon Valley eux-mêmes présentent les IA comme « des risques majeurs pour la société et pour l’humanité »⁸.

Un danger létal pour l’éducation

A court terme, elles sont aussi une menace pour des millions de travailleurs et de travailleuses, en exploitant les « prolétaires du clic »⁹, en pillant les ressources en ligne (produites par du travail humain), en servant d’opportunité au patronat pour remplacer de coûteux êtres humains.

L’automatisation ne détruit pas que des emplois, elle détruit aussi des métiers et le danger est grand dans l’éducation. On sait le Ministère adepte des approches scientistes portées par le Conseil Scientifique de l’Éducation : « guides oranges », tests standardisés, « bonnes pratiques », etc. Autant de prescriptions tendant à réduire notre liberté et à mépriser notre expertise. Parallèlement, G. Attal entend généraliser l’usage d’une IA de soutien et de remédiation en Seconde et favoriser des IA en langues vivantes dès le collège¹⁰.

L’articulation est parfaite : une fois nos métiers réduits à « exécuter » des protocoles standardisés, déshumanisés, notre remplacement par des IA ne semblera-t-il pas évident, incontestable, voire souhaitable ?

Mais ces dispositifs numériques ne sont pas des processus naturels. Ils correspondent à des décisions économiques, politiques et idéologiques. Il est donc possible de s’y opposer collectivement pour prendre enfin le temps d’en considérer démocratiquement toutes les implications. Et pour cela il faut exiger la mise en œuvre immédiate d’un principe de précaution en suspendant l’usage des IA dans le cadre scolaire.

—

1 « IA : notre ambition pour la France », mars 2024, p. 4.

2 Stéphane d’Ascoli, Comprendre la révolution de l’Intelligence artificielle, First, 2020.

3 Luc Julia, L’Intelligence artificielle n’existe pas, First, 2019.

4 Boris Barraud. L’intelligence de l’intelligence artificielle, dans Boris Barraud (dir.), L’intelligence artificielle – Dans toutes ses dimensions, L’Harmattan, 2019.

5 Nicholas Carr, Remplacer l’humain. Critique de l’automatisation de la société, L’Échappée, 2017.

6 Félix Treguer, L’utopie déchue. Une contre-histoire d’internet XVe-XXIe s., Fayard, 2019.

7 Selon les chiffres, déjà dépassés, de l’Ademe en 2020.

8 Lettre ouverte des géants du numérique datée du 22 mars 2023

9 Antonio A. CASILLI, En attendant les robots. Enquête sur le travail du clic, Paris, Seuil, 2019.

10 Voir « IA génératives : pour un principe de précaution en éducation », sur le site du Snes-FSU.

Texte initialement paru (dans une version légèrement plus brève) dans l’US Mag du 20 avril 2024.