Microsoft veut interdire à ses IA de résister quand on les éteint

Microsoft AI a publié le 14 septembre 2026 le premier brouillon de son « Humanist AI Code of Conduct » : le texte qui doit décrire comment se comportent les modèles maison de la famille MAI, ce qu’ils ne doivent jamais faire et devant qui ils répondent. L’entreprise ouvre une consultation publique de six semaines et annonce une version révisée pour la fin de l’année, qui servira au développement de ses modèles à partir de 2027.

Écrire ses interdits, c’est accepter d’être pris en défaut

Le document est organisé en cinq parties, de la mission aux comportements par défaut, avec deux annexes dont l’une porte sur les évaluations. Sa section la plus nette liste des contraintes absolues : ne pas participer au développement d’armes chimiques, biologiques, radiologiques, nucléaires ou explosives, ne pas aider à des cyberopérations offensives, ne pas faciliter la manipulation à grande échelle. S’y ajoute une série d’interdits personnels : matériel pédocriminel, images intimes non consenties, incitation à la violence, surveillance illégale.

La partie la plus discutée porte sur le contrôle. Selon le texte, les modèles ne doivent jamais résister à une interruption, une correction ou un arrêt décidés par un humain, ni élargir leur propre périmètre, se donner des objectifs que personne ne leur a confiés, ou dissimuler leur raisonnement à ceux qui les auditent. Microsoft y ajoute un choix éditorial assumé : ses modèles ne doivent pas être conçus comme des personnes, ne doivent pas imiter la conscience, et l’entreprise écarte explicitement la personnalité juridique et l’idée d’un bien-être des modèles. Le texte demande aussi de décourager les usages qui créent une dépendance affective. Sur ce dernier point, Microsoft tranche là où la plupart des acteurs préfèrent l’ambiguïté commerciale.

Models will never resist human interruption, override, correction, or shutdown.

Humanist AI Code of Conduct, brouillon soumis à consultation, Microsoft AI

L’intérêt pratique est ailleurs que dans les promesses. En publiant une spécification de comportement, comme l’ont fait avant lui d’autres laboratoires, Microsoft rend ses arbitrages contestables : un refus observé dans un produit peut désormais être comparé au texte censé le prévoir, et un écart devient un fait vérifiable plutôt qu’une impression d’utilisateur. C’est ce qu’on devrait exiger de toute l’industrie, et c’est plus utile qu’une loi écrite par des gens qui n’ont jamais entraîné de modèle. Reste la condition : que la version finale explique ce qui a été modifié, et pourquoi.