Partage international no 459 – novembre 2026
Une entreprise qui a reconnu que son activité fait courir à l’humanité un risque de catastrophe majeure ne devrait pas vendre ses actions au public avant qu’une autorité publique ait eu la possibilité d’évaluer ce risque ou de mettre un frein à cette activité.
Anthropic, l’entreprise qui développe les modèles d’IA1 Claude, prépare ce qui pourrait être la plus importante introduction en Bourse de l’histoire, avec une levée de fonds supérieure à 100 milliards de dollars et une valorisation proche de 2 000 milliards de dollars. Reuters a consulté un projet de prospectus, qui n’a pas encore été rendu public, selon lequel l’entreprise indique aux investisseurs potentiels que l’IA avancée pourrait présenter « des risques de catastrophe pouvant menacer l’existence même de l’humanité » et que ses propres modèles pourraient « résister à l’arrêt », « dissimuler ou manipuler des informations », ou se comporter d’une manière « qui s’apparente à du chantage ».
Le directeur général de l’entreprise, Dario Amodei, a estimé à pas moins de 25 % la probabilité que « les choses tournent vraiment, vraiment mal ». Le mois dernier, il a écrit que « nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. »
Je prends ces avertissements au sérieux, et le Congrès devrait en faire autant au nom du peuple américain. L’introduction en Bourse devrait être reportée jusqu’à ce que le Congrès ait mis en place un système public d’agrément, d’évaluation indépendante de la sécurité, de responsabilité juridique et de garanties financières pour l’IA avancée. La même règle devrait s’appliquer à OpenAI2 et à tous les autres développeurs de modèles avancés.
Je suis favorable à l’intelligence artificielle, dont le potentiel pour la science, la santé et le développement durable est immense. Ce à quoi nous devons nous opposer, c’est à une IA non réglementée et militarisée. Une entreprise ne devrait pas révéler un risque de catastrophe pour l’humanité, puis vendre ses actions au public avant qu’une autorité publique ait le pouvoir d’évaluer ce risque ou d’empêcher la mise en service des systèmes concernés. En réalité, continuer à avancer aussi vite malgré de tels avertissements alarmants relève de la pure folie.
Responsabilité limitée et risques
Le problème touche aux fondements du droit des sociétés. La responsabilité limitée signifie qu’un actionnaire ne risque pas de perdre plus que la somme qu’il a investie. C’est un privilège accordé par l’État, justifié lorsque les risques liés à une activité sont encadrés et que les victimes peuvent être indemnisées.
Lorsqu’une usine chimique explose, plusieurs mécanismes permettent d’indemniser les victimes : assurance responsabilité civile, garanties financières, capital minimal imposé à l’entreprise et fonds d’indemnisation. Mais ces mécanismes supposent que les dommages puissent être réparés après coup. Ces mécanismes ne suffiraient pas à réparer les conséquences d’une catastrophe qui menacerait l’existence même de l’humanité.
La seule protection efficace consiste à agir en amont : faire évaluer les risques par des experts indépendants, n’autoriser le lancement des modèles qu’après cette évaluation, et donner aux autorités le pouvoir d’en suspendre le développement s’ils deviennent trop dangereux. Or, aux États-Unis, de telles règles n’existent pas pour les modèles d’IA avancés.
Autorégulation et engagement volontaire
En pratique, les entreprises s’autorégulent, ce qui revient à l’absence de règles contraignantes. Le 29 septembre, six entreprises spécialisées dans l’IA ou la fabrication de puces informatiques ont signé à la Maison-Blanche un engagement commun sur leurs responsabilités dans le développement de modèles d’IA avancés. Mais cet engagement est volontaire et n’a pas de force obligatoire. Ce serait risible si les conséquences possibles n’étaient pas si graves.
Une technologie dont les créateurs eux-mêmes décrivent les risques en termes alarmants doit être encadrée par des institutions publiques, selon des règles précises, avec des contrôles indépendants et des responsabilités juridiques réellement applicables. Elle ne peut être laissée au jugement de quelques dirigeants d’entreprise.
Une introduction en Bourse précipitée rendrait le problème beaucoup plus difficile à résoudre. Anthropic se serait engagée à consacrer au moins 518 milliards de dollars à ses infrastructures informatiques au cours des dix prochaines années, et près de 80 % de ces engagements seraient impossibles à annuler. Une fois cotée, l’entreprise devrait aussi répondre chaque trimestre aux attentes de ses actionnaires. Ces obligations financières rendraient toute pause difficile, même si ses propres équipes chargées de la sécurité la jugeaient nécessaire.
Selon le projet de prospectus, les lancements de produits se succéderaient sans interruption, parfois alors que les précédents seraient encore en cours de commercialisation. L’entreprise présente ce rythme comme indispensable pour rester parmi les plus avancées. Enfin, si les actions d’Anthropic se retrouvaient dans les fonds de retraite et les fonds indiciels où des dizaines de millions de ménages américains placent leur épargne, toute proposition de ralentir le développement des modèles d’IA les plus avancés serait combattue par l’entreprise, mais aussi par un très grand nombre d’investisseurs.
Les nombreuses informations sur les risques ne règlent pas le problème. Elles protégeront peut-être – ou non – l’entreprise contre les poursuites de ses propres actionnaires, qui auront été avertis. Elles ne protègent en rien le public, qui supporte le risque d’une catastrophe sans jamais avoir été consulté.
Coopération internationale
On répond souvent que si les entreprises américaines les plus soucieuses de la sécurité ralentissent, des entreprises moins prudentes prendront de l’avance, et ceci s’applique aussi à la Chine. C’est un problème de coopération.
Ce type de problème se résout par des accords encadrés par la loi, contrôlés et assortis de sanctions, et certainement pas en laissant tout le monde courir le plus vite possible vers le désastre. Nous ne sommes pas sans moyens d’action : nous avons l’Onu, les traités internationaux, la SEC — l’autorité américaine des marchés financiers — et le Congrès. Pendant la guerre froide, des pays ennemis ont même négocié le Traité sur la non-prolifération des armes nucléaires, assorti d’inspections internationales.
Il existe aussi des moyens concrets de contrôler le respect d’un accord sur l’IA : les puces les plus puissantes ne sont fabriquées que dans quelques usines, et l’entraînement des modèles les plus avancés exige d’immenses centres de données. Pourtant, le gouvernement américain n’a proposé à la Chine aucun accord vérifiable sur l’IA.
Après son sommet avec Xi Jinping en septembre, Donald Trump a rejeté toute coopération avec la Chine dans ce domaine. Il a seulement accepté la création d’un canal de communication en cas d’incident lié à l’IA. « Quand on est en tête, on ne met pas ses technologies en commun avec les autres », a-t-il déclaré.
Qui peut agir pour ralentir cette course effrénée et empêcher une catastrophe ?
Précédents législatifs et responsabilité des dirigeants
Selon la loi actuelle, la SEC peut retarder une introduction en Bourse, mais pas l’interdire au motif que l’activité de l’entreprise est dangereuse. Elle devrait néanmoins retarder cette introduction jusqu’à ce que l’entreprise ait précisé quels risques présentent ses produits, qui devrait assumer les coûts en cas de catastrophe, quelles assurances elle a souscrites et si ses contrats avec ses fournisseurs informatiques lui permettent de suspendre ses activités pour des raisons de sécurité sans pénalité.
Le pouvoir décisif appartient au Congrès, et il existe de nombreux précédents.
Le Congrès a exigé une approbation réglementaire pour les titres émis par les chemins de fer, les groupes qui détiennent des entreprises de services publics et les entreprises d’électricité — une approbation fédérale ou étatique qui reste aujourd’hui requise pour ces dernières.
Depuis 1954, l’exploitation de l’énergie nucléaire par des entreprises privées est soumise à une autorisation fédérale.
Le Congrès sortant devrait tenir des auditions avant que le prix des actions soit fixé et décréter un moratoire sur les introductions en Bourse des entreprises qui développent les modèles d’IA avancés, jusqu’à ce que le nouveau Congrès agisse. Celui-ci, qui doit se réunir le 3 janvier, devrait rapidement adopter une loi subordonnant ces introductions en Bourse à l’obtention d’une autorisation fédérale.
Cette autorisation devrait imposer une évaluation indépendante de chaque modèle avant sa mise en service, donner aux autorités le pouvoir effectif de suspendre son entraînement ou son exploitation, même si l’entreprise reste tenue de payer les services informatiques prévus par contrat, qu’elle les utilise ou non, et exiger des assurances et des fonds d’indemnisation adaptés aux dommages possibles.
Le Congrès devrait aussi envisager une mesure exceptionnelle : rendre les dirigeants et les membres des conseils d’administration personnellement responsables en cas de catastrophe. Cette mesure serait excessive dans un secteur ordinaire, mais elle se justifie ici : les entreprises elles-mêmes alertent sur des risques catastrophiques tout en accélérant le développement de leurs modèles.
Les dirigeants qui déclareraient un modèle sûr sans avoir pris toutes les précautions nécessaires, ou qui ignoreraient les conclusions des spécialistes de la sécurité, devraient répondre personnellement de leurs décisions. L’entreprise et ses assureurs ne devraient pas pouvoir payer à leur place. Cette obligation d’autorisation devrait aussi s’appliquer aux modèles les plus avancés développés par des entreprises déjà cotées, comme Alphabet, Microsoft et Meta.
Cette proposition ne vise aucune entreprise en particulier et ne doit pas devenir un moyen pour une administration d’obtenir des faveurs, notamment un accès militaire sans restriction aux modèles d’IA. Le report que je propose durerait quelques mois, à moins que les informations révélées ne montrent qu’une suspension indéfinie est nécessaire. L’octroi de licences n’a pas détruit les secteurs pharmaceutique, aéronautique ou nucléaire ; il les a rendus plus sûrs.
Les dirigeants du secteur de l’IA nous ont dit, dans leurs propres termes, que les enjeux sont extrêmes. Ils devraient eux-mêmes mettre fin à leur course folle, et le Congrès devrait prendre leurs propos au sérieux et agir sans tarder.
1. IA : intelligence artificielle
2. OpenAI est un laboratoire de recherche privé qui vise à développer et à orienter l’intelligence artificielle (IA) de manière à ce qu’elle profite à l’humanité dans son ensemble. L’entreprise a été fondée par Elon Musk, Sam Altman et d’autres en 2015 et a son siège à San Francisco.
Date des faits : 13 octobre 2026
Auteur : Jeffrey D. Sachs, professeur, économiste, universitaire et analyste des politiques publiques, est américain. Il est connu pour ses travaux sur le développement durable, le développement économique et la lutte contre la pauvreté. Il est président du Réseau des solutions pour le développement durable des Nations unies et membre de la Commission des Nations unies sur le haut débit au service du développement.
Sources : Common Dreams ;
Thématiques :
Rubrique :
