Le train de l’IA est-il vraiment inarrêtable ? comment s’assurer que les outils travaillent pour nous et non l’inverse : un livre de Cory Doctorow (Editions Eyrolles, octobre 2026)

Partage international n^o 457 – septembre 2026

par Cher Gilmore

Partager

La plupart des opinions concernant l’intelligence artificielle (IA) tombent dans l’un ou l’autre de ces deux extrêmes : soit il s’agit de l’invention la plus importante pour la société depuis la roue, soit les humains seront réduits en esclavage par des robots dirigés par une IA super-intelligente qui prendra le contrôle du monde. Ces deux points de vue reposent davantage sur une réaction émotionnelle face à la technologie, à sa promotion surmédiatisée, et à la responsabilité de chacun quant à son usage, plutôt que sur un examen lucide de ce que peut ou ne peut pas faire l’IA.

Cory Doctorow, journaliste, écrivain de science-fiction et auteur de plus d’une trentaine d’ouvrages, propose une évaluation nécessaire et réaliste de l’IA, passant outre les réactions émotionnelles inutiles, et montrant comment nous pouvons l’utiliser pour améliorer la vie professionnelle et la société en général. La technologie ne va pas disparaître – du moins pas avant l’éclatement de la bulle, ce qu’il juge inévitable – aussi en attendant, nous devons trouver comment l’utiliser au mieux, contenir ses excès et répondre aux défis qu’elle pose.

Tout d’abord, définissons les termes « centaure » et « centaure inversé ». Dans la mythologie grecque, un centaure est une créature dont le buste est celui d’un humain et le bas du corps celui d’un cheval. Dans l’étude académique de l’automatisation, un centaure désigne une personne assistée par une machine. Porter des appareils auditifs, utiliser une calculatrice ou faire du vélo par exemple, fait de vous un centaure.

Au contraire, un centaure inversé est un humain qui interagit avec une machine en tant qu’assistant. Les employés des entrepôts d’Amazon peuvent être considérés comme des centaures inversés parce que chacun de leurs mouvements est chronométré et contrôlé par des caméras équipées d’IA et qu’ils sont pénalisés lorsqu’ils échouent à atteindre les quotas excessifs qui leur sont imposés. C. Doctorow déclare : « Ils ne sont pas simplement utilisés par ces machines, ils sont exploités. » La différence entre un centaure et un centaure inversé est déterminée par celui qui détient le contrôle, l’homme ou la machine.

C. Doctorow mentionne à de nombreuses reprises un point crucial : les modalités sociétales de la technologie ne sont pas inévitables, mais résultent d’un choix. Les dirigeants d’entreprise, dit-il, aiment l’IA pour sa promesse (justifiée ou non) de réduction des coûts et d’augmentation des profits, par le remplacement des travailleurs. Bien que la probabilité soit faible que l’IA parvienne à effectuer la plupart des métiers, les patrons sont des cibles faciles pour le battage médiatique parce qu’ils veulent y croire.

Prenons par exemple les radiologues. L’IA peut être capable de repérer des tumeurs qui échappent aux radiologues mais elle peut aussi créer faux positifs et faux négatifs. Avec une collaboration de type centaure, le radiologue pourrait établir un diagnostic et obtenir de l’IA une deuxième opinion. En cas de désaccord, le radiologue pourrait vérifier à nouveau la radiographie pour confirmer le diagnostic.

Dans un scénario de type centaure inversé, la version augmentée, la plupart des radiologues seraient licenciés et remplacés par l’IA pour une fraction du coût humain. Le travail des radiologues humains restants consisterait à vérifier les résultats fournis par l’IA plutôt que les radiographies elles-mêmes. En raison de ce qu’on appelle la « cécité à l’automatisation », une limitation cognitive humaine quasiment universelle, ils confirmeraient les avis donnés par l’IA à une vitesse surhumaine.

En effet, l’humain impliqué sera finalement conduit à cliquer « OK » à chaque diagnostic présenté, d’autant plus que le volume et le flux des tâches de contrôle s’accroitront. Placer le radiologue entre l’IA et le patient permet une réduction de la masse salariale pour l’hôpital et l’exonère de sa responsabilité dans les échecs de l’IA à déceler des tumeurs, responsabilité endossée par le radiologue.

La stratégie derrière la frénésie autour de l’IA

Il s’agit d’attirer les investisseurs. C. Doctorow rapporte que toutes les entreprises d’IA perdent de l’argent, et que plus l’entreprise est importante plus elle en perd. Le battage médiatique est nécessaire pour convaincre les investisseurs que l’entreprise est vouée à grandir, ce qui lui vaudra une valorisation boursière (techniquement, un ratio cours/bénéfice) plus élevée qu’une action « mûre », rentable mais qui n’est pas forcément en croissance. Une valorisation boursière plus élevée lui permet d’acheter d’autres entreprises et d’embaucher le personnel nécessaire, rémunéré en partie en actions, et ainsi de continuer à croître.

Cependant, en finances, la loi de Stein énonce que « une chose qui ne peut pas durer éternellement finira par s’arrêter ». Aussi, les entreprises se doivent demain tenir constamment l’équilibre délicat entre la perception de la croissance et celle de la stagnation aux yeux des investisseurs, parce que dès que le marché décide qu’une entreprise ne grandit plus, elle subit une vente massive d’actions. Par exemple, en 2022, Meta a averti ses investisseurs qu’elle avait enregistré une croissance du nombre d’utilisateurs américains inférieure aux prévisions. Dans les 24 heures qui ont suivi, en un mouvement de panique, une vente massive de titres, totalisant 230 milliards de dollars, a eu lieu.

Les entreprises utilisent nombre de tactiques et de ruses discutables pour donner une impression de croissance ou de projection de croissance, créant ainsi des bulles spéculatives, car elles promettent des résultats qu’elles ne peuvent sans doute pas atteindre. Selon C. Doctorow, ce processus est facilité par la « prime byzantine » : la valorisation supplémentaire que les investisseurs placent sur un actif qu’ils ne comprennent pas. Beaucoup de récits sur la potentielle croissance explosive de l’IA s’appuient sur ce principe, de l’IA générative à la nouvelle IA agentique. Lorsque la nouveauté d’un outil clinquant s’étiole, un autre le remplace, contribuant à gonfler la bulle.

La bulle

La bulle de l’IA est alimentée par le besoin des grandes entreprises de la tech de fournir un récit de croissance aux investisseurs. Cependant, vu les problèmes avec l’IA existante, la probabilité est mince que la technologie devienne extrêmement profitable grâce à ses propres mérites. C. Doctorow écrit qu’une étude récente du MIT révèle que « 95 % du déploiement commercial de l’IA échoue, et ne provoque pas d’impact mesurable sur le bénéfice », et il donne des exemples d’échecs spectaculaires, notamment quand elle remplace le personnel de services à la clientèle.

L’auteur traite également des inévitables biais dans l’entraînement des modèles d’IA qui aboutissent à des réponses elles-mêmes extrêmement biaisées car, comme l’énonce le principe informatique GIGO, les déchets à l’entrée donnent des déchets à la sortie. Les deep fakes pornographiques, la désinformation électorale et la tarification personnalisée représentent des dommages supplémentaires. Ce dernier consiste en une tactique des entreprises utilisant des données personnelles, pour vous demander un prix ou vous proposer un salaire qui résulte de votre situation personnelle.

Amazon est un exemple parfait. Il a été démontré qu’Amazon pratiquait des prix beaucoup plus élevés pour les clients Prime (qui ont payé d’avance un forfait réduisant les frais d’expédition et font habituellement leurs achats sur Amazon) que les prix pratiqués pour les clients non Prime.

Même les agences régionales de recrutement d’infirmiers remplaçants prennent part à l’escroquerie sur les prix. Les applications de recrutement achètent auprès de vendeurs de données l’historique bancaire des infirmiers avant de leur proposer un poste, et réduisent le salaire offert à ceux qui sont endettés, jugeant qu’ils sont plus précaires et donc susceptibles d’accepter un salaire plus bas.

Après l’éclatement de la bulle

Chaque génération des modèles de base de l’IA devient considérablement plus onéreuse à entraîner et à utiliser que la précédente, et le coût augmente encore avec chaque addition d’utilisateur ou de fonctionnalité. Ceci n’est pas une formule de croissance gagnante.

La plupart des entreprises d’IA, sinon toutes, finiront par échouer, assure C. Doctorow, et la bulle éclatera. Pour les sept gigantesques entreprises d’IA représentant 35 % du marché boursier américain, ce ne sera pas un jour agréable. Des gens innocents seront ruinés, notamment ceux qui ont investi leurs économies de toute une vie dans des fonds indiciels, considérés comme les plus sûrs de tous les investissements. Ce qui perdurera seront les centres de données, le matériel informatique et les programmeurs formés, plus quelques résidus positifs qui seront heureusement utiles pour de nombreuses personnes : les programmes autonomes, les modèles open source qui peuvent fonctionner sur les ordinateurs personnels comme les logiciels de transcription de grande qualité et les outils intégrés de traitement de l’image.

C. Doctorow juge comme insignifiants ces bénéfices qui ont coûté des centaines de milliards de dollars et émettent des gigatonnes de carbone détruisant la planète. Le dommage environnemental sera supporté par chaque créature vivant sur la planète pour les années à venir, et la plupart des dégâts sont déjà inéluctables. De la même manière, les coûts économiques de la faillite de l’IA seront ressentis dans le monde pendant au moins une génération sinon plus, et ils sont également acquis. Il se peut que ce soit le krach boursier mondial annoncé de longue date.

Les points essentiels à retenir de ce guide, souvent humoristique, à lire résolument :

1. Il n’y a rien d’inéluctable à propos du futur mythique de l’IA.

2. Les investisseurs sont la cible intentionnelle du battage médiatique pour l’IA, destiné à prouver que c’est une industrie en croissance.

3. La technologie de l’IA ne peut pas tenir ses promesses.

4. La technologie actuelle est utilisée pour des objectifs néfastes voire malfaisants.

5. L’IA n’est pas et n’a jamais été rentable.

6. C’est donc une bulle qui comme toutes les bulles finira par éclater.

7. En attendant, elle va créer un dommage environnemental tragique, suivi, quand la bulle éclatera, d’un désastre économique.

8. Nous pouvons choisir comment et quand utiliser la technologie IA à notre avantage plutôt que travailler comme son assistant. Nous pouvons choisir d’être des centaures plutôt que des centaures inversés.