Des fraudeurs détournaient Claude. Anthropic dit les avoir bloqués

Anthropic publie des cas d’usage malveillant de Claude identifiés puis interrompus entre décembre 2025 et août 2026. Le rapport couvre notamment opérations cyber, influence, surveillance, fraude, risques biologiques et distillation illicite. La société souligne que ces exemples sont parmi les plus notables qu’elle a observés : ils ne décrivent pas le comportement de l’utilisateur ordinaire. Publier ces cas plutôt que les enterrer est un choix, et il tranche avec le silence de la plupart des plateformes numériques.

Interdire le modèle n’aurait rien empêché

Les acteurs malveillants contournent les protections, changent de comptes, fragmentent leur travail. Le rapport montre donc la sécurité comme une activité permanente : reconnaître des motifs anormaux, enquêter, fermer l’accès, partager l’information avec les partenaires concernés. Anthropic indique avoir renforcé ses protections après les cas étudiés. C’est ce qu’on attend d’un opérateur sérieux, et c’est précisément ce qu’un modèle lâché dans la nature ne permet pas de faire.

L’angle utile pour les autres plateformes est moins spectaculaire que le récit du « chatbot qui pirate », lequel arrange surtout ceux qui veulent légiférer par la peur. Une défense crédible doit suivre la vitesse, l’échelle et la persistance des opérations : des équipes, des données d’incident, des échanges entre organisations, en plus des garde-fous du modèle. Ce travail n’a rien d’inédit pour la sécurité informatique, et il donne à l’IA l’avantage que ses adversaires lui refusent : elle défend autant qu’elle expose.

Lire le rapport d’Anthropic ↗