Le patron d’Anthropic veut appuyer sur le frein. OpenAI négocie.

Dario Amodei, directeur général d’Anthropic, a publié le 12 septembre 2026 sur son site personnel un essai intitulé « We Must Pace the Frontier ». Sa thèse : les capacités progressent plus vite que la capacité collective à les comprendre et à les contrôler. Il précise d’emblée ce que sa proposition n’est pas : « pacer » ne signifie pas interrompre l’entraînement ni geler le progrès technique, mais garantir que les entreprises prennent le temps d’aligner et de protéger leurs modèles, et que des évaluateurs tiers puissent le confirmer. La nuance est capitale, et elle sera la première à disparaître dans les reprises.

Trois étapes, dont deux hors de portée d’une entreprise

1. Des évaluateurs extérieurs disposant d’un accès comparable à celui d’un salarié, pour vérifier les pratiques de sécurité, signaler les incidents et juger de l’alignement des modèles. Anthropic s’y engage unilatéralement.
2. Des normes de sécurité communes entre laboratoires de pays démocratiques, assorties de limites au rythme de progression non vérifiée.
3. Une coordination avec les gouvernements autoritaires, en traitant la question de la vérification.

La première étape est la seule qu’un acteur privé puisse tenir seul, et Amodei précise le point qui en fait un engagement plutôt qu’un affichage : les évaluateurs doivent pouvoir publier leurs constats sur les niveaux de risque, les incidents et les pratiques sans contrôle éditorial d’Anthropic, hors caviardages étroits pour raisons de sécurité ou juridiques. Les deux étapes suivantes supposent des États. C’est là que le texte devient une demande politique : Amodei estime utile que le gouvernement américain arbitre ou facilite ces discussions, et suggère une dérogation antitrust étroite couvrant certains échanges sur la sécurité.

Trois jours plus tard, la question est passée du texte à la pratique. Le 15 septembre, Chris Lehane, responsable des politiques publiques d’OpenAI, a déclaré à des journalistes que son entreprise travaillait avec Anthropic et Google DeepMind sur ces sujets depuis plusieurs semaines. Sam Altman avait publiquement soutenu l’essai et indiqué qu’OpenAI intégrerait des évaluateurs tiers ; Demis Hassabis, chez Google DeepMind, l’a également soutenu. Mais Lehane a ajouté que les entreprises n’avaient pas besoin d’une dérogation gouvernementale pour coordonner leurs travaux de sécurité, soit exactement le point sur lequel Amodei demande l’intervention de l’État.

Deux éléments donnent à ce débat sa tension. Le premier est technique : Amodei désigne l’auto-amélioration récursive (la capacité croissante de l’IA à construire la génération suivante) comme un phénomène déjà à l’œuvre dans l’industrie, y compris chez Anthropic, et qui pourrait dépasser la capacité à comprendre et contrôler ces systèmes. Le second est géopolitique : son plan suppose que les États-Unis conservent leur avance, ce qui le conduit à défendre des restrictions sur les ventes de puces à la Chine, une lutte contre la distillation de modèles et un renforcement de la sécurité contre le vol de poids de modèles. Une proposition de ralentissement qui repose sur le maintien d’une avance reste, pour les autres pays, une proposition américaine.

Le test viendra donc moins des déclarations que du premier cas concret : un évaluateur extérieur publiant, sans autorisation préalable, un constat qu’un laboratoire n’aurait pas souhaité voir sortir. Tant que cela n’a pas eu lieu, l’engagement reste une promesse dont la valeur dépend de celui qui la formule. Notre position est simple : ce mécanisme mérite d’être soutenu, parce qu’il est le seul qui permette d’aller vite sans avancer à l’aveugle. Un moratoire, lui, n’aurait produit ni évaluateur ni norme, seulement du retard.

Lire l’essai « We Must Pace the Frontier » ↗