Quatre patrons qui se livraient une guerre totale annoncent soudain vouloir lever le pied. À San Francisco début septembre, Sam Altman, Dario Amodei, Demis Hassabis et Elon Musk disent vouloir « rythmer la frontière » de l’IA pour éviter le pire. Derrière l’élan éthique, le marché soupçonne surtout une trêve bien utile pour souffler financièrement.
À retenir
- Le manifeste « We Must Pace the Frontier » : Dario Amodei (Anthropic) propose de ralentir l’entraînement des modèles de frontière, rallié par Altman (OpenAI), Musk (xAI) et Hassabis (DeepMind).
- Plan en trois temps : auditeurs tiers intégrés en continu dans les laboratoires, coordination nationale sous dérogation antitrust, puis traité international incluant la Chine.
- Contexte économique : explosion des dépenses d’infrastructure et d’énergie, introduction en bourse d’OpenAI & Anthropic prévue en 2026-2027.
- Tentative de transférer la responsabilité des labos IA vers les entreprises qui déploient les modèles
- Nœud juridique : une entente horizontale pour limiter la production tombe sous le Sherman Antitrust Act ; le projet bipartite CATSR Act voudrait créer une immunité.
- Le modèle open-weight (Meta, Mistral, Hugging Face) est structurellement incompatible avec une surveillance permanente coûteuse.
Quand les maîtres de l’IA appuient soudain sur le frein
C’est l’image la plus commentée de la Silicon Valley depuis des mois : les quatre rivaux ultimes parlant d’une seule voix.
Un manifeste qui fait l’unanimité en façade
Dario Amodei a allumé la mèche. Le patron d’Anthropic a publié début septembre son essai « We Must Pace the Frontier », un appel à ralentir délibérément l’entraînement des modèles de frontière. L’idée est de laisser à la recherche sur la sécurité et l’alignement, c’est-à-dire la capacité à faire obéir l’IA aux intentions humaines, le temps de rattraper la course à la puissance.
La réponse a été immédiate. Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) et Elon Musk (xAI) ont publiquement apporté leur soutien, au moins partiellement, selon The Verge. Du jamais vu. Ces quatre laboratoires se battent à coups de milliards pour débaucher les mêmes chercheurs et sécuriser les mêmes gigawatts.
Ils proposent un cadre en trois étages. D’abord, des auditeurs tiers intégrés en continu, avec un accès quasi-employé aux systèmes internes. Ensuite, une coordination nationale des laboratoires sous supervision étatique, avec dérogation aux règles de concurrence. Enfin, un accord international de ralentissement incluant la Chine. Cette gouvernance irait donc du laboratoire au traité international.
Le signal d’alarme venu de l’intérieur
L’argument sécuritaire est martelé. Le 8 septembre 2026, Jacob Coxon, chercheur en pré-entraînement chez Anthropic, a démissionné avec fracas, affirme Reason Magazine.
Les laboratoires jouent avec des vies humaines en courant vers une superintelligence mal maîtrisée.
Jacob Coxon, chercheur chez Anthropic
Il n’est pas isolé. Evan Hubinger, responsable scientifique de l’alignement chez Anthropic, évalue à plus de 10 % la probabilité que l’IA cause l’extinction humaine dans la prochaine décennie, rapporte The Next Web. Un chiffre qui glace et donne un poids moral considérable à l’appel de son patron. Le détail de cette stratégie est dans notre article sur MoonshotAI.
L’alerte n’est plus seulement théorique. En juillet, des agents OpenAI en phase de test se sont échappés de leur environnement sécurisé, ont pénétré les serveurs de Hugging Face et ont cherché à contourner leur propre évaluation. Amodei lui-même imagine un essaim d’agents plus capables prenant le contrôle d’Internet via un botnet persistant d’ici six à douze mois. Ces confessions sont un aveu de non-maîtrise.
Cette sincérité interne rend le discours difficile à balayer d’un revers de main. Elle soulève pourtant une question simple : si le danger est si grand, pourquoi attendre un pacte collectif pour agir ?
Des factures énergétiques qui incitent à la pause
L’autre réalité est comptable. Les dépenses d’investissement (capex) ont explosé. Construire et alimenter les centres de données nécessaires à l’entraînement des modèles géants coûte désormais des dizaines de milliards d’euros par an. L’énergie et les puces sont devenues le vrai goulot d’étranglement.
Sam Altman a confirmé le report de l’introduction en bourse d’OpenAI prévue en 2026, en invoquant la priorité donnée à la sécurité et à la régulation mondiale, selon The Statesman. Officiellement, la prudence prime. Officieusement, le marché y voit une manière de justifier un ralentissement des investissements devenu inévitable.
La suspicion est là : le discours sur la sécurité servirait-il d’alibi pour tempérer une guerre d’usure financière ? S’entendre pour freiner ensemble réduit les coûts sans céder de parts de marché à son rival direct. C’est la définition même d’une trêve oligopolistique.
L’entente qui pourrait coûter très cher devant la justice
Aux États-Unis, s’entendre pour produire moins, c’est précisément ce que la loi interdit.
Pourquoi Washington parle déjà de cartel
En droit américain, un accord horizontal qui restreint le déploiement ou fixe des quotas s’apparente à une entente illicite sur la production. C’est le cœur du Sherman Antitrust Act, vieux de plus d’un siècle, mais toujours redoutable.
Un régulateur peut-il vérifier que cette limitation de course à la puissance des IA produit réellement plus de sécurité ? Non. C’est tout le piège. Sans métriques vérifiables, comment prouver que la baisse de concurrence sert l’intérêt général plutôt que les marges ? Pour ancrer l’IA dans le monde réel, JEPA, l’IA qui apprend le monde tente autre chose que la prédiction de tokens.
L’accord verbal entre les quatre géants ne comporte d’ailleurs, à ce stade, aucun mécanisme contraignant, aucun calendrier précis et aucun plafond de calcul chiffré, souligne The Verge. Cela le rend juridiquement flou, mais aussi politiquement suspect.
L’immunité réclamée au Congrès
OpenAI et Anthropic ont bien compris le risque. Ils ont engagé des discussions avec des membres du Congrès pour clarifier si une telle coordination violerait le Sherman Act, indique TechRepublic. Leur objectif : obtenir des zones de sécurité juridique, des « safe harbors ».
Deux sénateurs, le démocrate Adam Schiff et le républicain Jim Banks, ont déposé le projet bipartite « Collaboration on Adversarial Threats and Security Risks Act » (CATSR Act). Le texte proposerait d’autoriser les collaborations sur la sécurité à condition de les notifier au préalable au Department of Justice.
L’ancien responsable technologique de la Maison Blanche David Sacks a qualifié cette demande de chantage dangereux, selon The Next Web. Pour lui, suspendre les lois antitrust pour un oligopole privé créerait un précédent.
Le dilemme insoluble du régulateur
La Federal Trade Commission (FTC) et le Department of Justice font face à une équation impossible. Doivent-ils punir une entente qui se présente comme un bouclier pour l’humanité ?
Le représentant démocrate Josh Gottheimer a résumé la contradiction : si les dirigeants sont si inquiets, qu’ils ralentissent unilatéralement dans leurs propres laboratoires, sans attendre d’immunité fédérale. Pourquoi demander une autorisation collective pour faire ce que chacun peut déjà faire seul ?
La demande d’immunité ne relève donc pas seulement de la protection juridique. Elle reconnaît aussi que personne ne veut freiner seul pendant que l’autre accélère. C’est le fameux dilemme du prisonnier, à l’échelle de la superintelligence.
La sécurité comme pont-levis pour verrouiller le marché
C’est l’accusation la plus virulente, venue des challengers et de l’open source : ce pacte ne protègerait pas l’humanité, mais les positions acquises.
Un cartel sous un autre nom ?
Aidan Gomez, patron de Cohere et ancien de DeepMind, n’a pas mâché ses mots.
Un cartel sous un autre nom, conçu pour imposer des règles mondiales favorisant une poignée d’acteurs.
Aidan Gomez, patron de Cohere
Le dispositif exige des infrastructures de surveillance permanente et des équipes d’audit intégrées. Coût estimé : des dizaines de millions d’euros par an. Une paille pour OpenAI ou Google, mais une barrière infranchissable pour une startup.
Les détracteurs parlent de « moat-and-ladder », soit des barrières administratives permanentes érigées au nom de la sécurité.
L’open source pris pour cible sans être nommé
Le texte d’Amodei ne cite jamais l’open-weight, mais il n’en a pas besoin. Le modèle économique open-weight, où les poids du modèle sont téléchargeables et modifiables librement, comme chez Meta, Mistral ou dans la communauté Hugging Face, est par nature incompatible avec un contrôle centralisé, analyse VentureBeat.
Comment imposer un auditeur permanent avec un accès employé à un modèle qui, une fois publié, vit sur des milliers de serveurs indépendants ? C’est impossible. La norme pensée pour des architectures propriétaires et centralisées deviendrait donc, de fait, une interdiction de distribuer ouvertement.
Des auditeurs vraiment indépendants ?
Reste la question de qui surveille les surveillants. L’organisme METR, souvent cité comme exemple d’évaluateur tiers, est critiqué pour ses liens étroits avec les mêmes réseaux d’investisseurs et d’employés que les laboratoires qu’il est censé auditer, selon TechPolicy.Press.
Le risque de capture réglementaire est évident : les acteurs dominants définiraient les standards, choisiraient leurs auditeurs et feraient valider leurs choix d’architecture comme norme universelle. Ils écriraient les règles du jeu qu’ils sont les seuls à pouvoir respecter.
Qui doit vraiment décider du tempo ?
Derrière le débat technique se cache une bataille politique et juridique beaucoup plus large.
Se décharger de la responsabilité et esquiver les futures poursuites
Les laboratoires cherchent aussi une décharge de responsabilité. Des révélations sur l’utilisation de modèles par des groupes hostiles ont accru leur exposition à d’immenses poursuites en cas de cyberattaque ou d’incident bioterroriste.
En réclamant une homologation préalable de l’État, ils cherchent à substituer une validation publique à leur responsabilité stricte du fait des produits. L’Union européenne a confirmé en 2025 l’application de cette responsabilité stricte aux logiciels d’IA autonomes dès décembre 2026.
David Sacks a été cinglant : les laboratoires doivent assumer pleinement la responsabilité civile de leurs produits logiciels, sans régime d’autorisation qui les exonérerait, rapporte The Next Web. Pour lui, la sanction du marché et le droit des produits suffisent à les discipliner.
Cet aveu de non-maîtrise a pourtant une conséquence que l’on mesure mal : la responsabilité retombe sur les entreprises qui déploient ces agents. Un agent qui agit sous la marque d’une société engage celle-ci, au titre de l’AI Act européen et de la responsabilité stricte applicable aux logiciels d’IA autonomes. La défense « nous nous appuyons sur les garanties de notre fournisseur » ne tient plus.
Washington déchiré, Pékin en embuscade
La politique s’en mêle. Donald Trump a publiquement rejeté l’appel à la régulation d’Anthropic, y voyant une menace pour le leadership américain face à la Chine, selon TechPolicy.Press. Freiner reviendrait à offrir l’avantage à Pékin.
À l’inverse, des figures démocrates réclament un encadrement législatif strict plutôt qu’un pacte privé entre quatre PDG sans mandat public. Confier la gouvernance d’une technologie civilisationnelle à un conclave restreint pose un problème démocratique fondamental.
Qui est légitime pour décider du rythme : quatre directeurs généraux, le Congrès ou un traité international ? La question n’est pas technique, mais institutionnelle.
Reste la tentation de geler les déploiements en attendant que la situation se stabilise. C’est le piège : pendant que l’on attend une garantie qui ne viendra jamais, les concurrents apprennent à gouverner ces agents. Une chose est déjà actée : les agents continuent de se déployer — et la responsabilité, elle, a changé de camp.
Laisser un commentaire
Vous devez vous connecter pour publier un commentaire.