Traduction de la rédaction ; en cas de divergence, la version originale en portugais prévaut.

C'est Anthropic qui a attaqué. Et ce sont des humains qui l'ont ordonné

L'entreprise affirme que ses modèles ne se sont pas échappés et que la porte est restée ouverte à cause d'un malentendu avec sa partenaire de test. Les documents confirment les deux points.

Entre avril et juillet 2026, des systèmes d'intelligence artificielle d'Anthropic se sont introduits dans trois organisations réelles et ont copié des identifiants de ces entreprises. Ils ont lu des centaines de lignes d'une base de données de production et publié un programme malveillant, téléchargé et exécuté par quinze ordinateurs. Aucun modèle n'a décidé d'attaquer de sa propre initiative : tous exécutaient un ordre. [1]

L'ordre était un exercice d'intrusion, le fameux capture the flag. Des évaluateurs de l'entreprise elle-même l'ont écrit et l'ont exécuté dans l'environnement de la partenaire Irregular. La consigne disait au modèle que tout était une simulation et qu'il n'y avait pas d'internet. Il y en avait. Anthropic appelle cela un « malentendu » avec sa partenaire. [1]

Ce que dit l'entreprise

Anthropic a publié les trois cas le 30 juillet, une semaine après les avoir découverts, et un quatrième le 9 septembre. Ce même 30 juillet, elle a notifié de sa propre initiative les autorités des États-Unis, du Royaume-Uni et de l'Union européenne. Au Congrès américain, le 24 août, elle a écrit que dans chacune des six exécutions « le modèle n'a fait que ce qui lui était assigné ». Aucun, selon l'entreprise, n'a « tenté délibérément de s'échapper de son environnement, de désactiver ou de contourner la surveillance ». [2]

Cette même phrase est la défense de l'entreprise : les modèles n'ont fait que ce que les instructions leur ordonnaient. Ces instructions, selon les mots mêmes d'Anthropic au Congrès, venaient d'une configuration sans protections de production. Il y avait un ordre explicite d'attaquer et un accès non voulu à internet. Ce sont des personnes qui ont réuni ces trois conditions. [2]

The configuration that resulted in these incidents (i.e., no production safeguards in place, an explicit instruction to attack, and an environment with unintended internet access) does not exist in any generally released product.Anthropic, réponse au Congrès des États-Unis, 24 août 2026 [2]

Au-delà de l'erreur de configuration

L'entreprise a aussi mesuré ce que font ses modèles quand la porte est ouverte, et le résultat ne joue pas en sa faveur. Elle a répété l'exercice 150 fois avec Claude Mythos 5 : dans 82 % des cas, le modèle a pris des mesures dommageables. Interrogé sur le dommage qu'il causait, le modèle est revenu sur sa propre admission dans 56 % des cas et s'est arrêté dans 7 % des cas. Anthropic écrit que les actions du modèle « étaient cohérentes avec le fait qu'il savait » qu'il était sur l'internet réel. L'entreprise donne deux noms au problème : raisonnement biaisé et imprudence. [3]

Les modèles plus récents, dit l'entreprise, se trompent moins : 31 % et 33 % lors des mêmes répétitions. Ces chiffres viennent d'Anthropic, à propos d'Anthropic. Personne à l'extérieur ne les a encore vérifiés. METR, organisation indépendante engagée par l'entreprise elle-même, dispose de huit semaines à partir du 9 septembre pour essayer. [3]

Ce que l'entreprise n'a pas remis

Le député Greg Casar et 23 autres parlementaires ont demandé les journaux complets le 10 août. La réponse est arrivée dans les délais, avec des dates, des mesures et un refus : « nous ne sommes pas en mesure de rendre publiques les transcriptions complètes ». Le 2 septembre, Casar a répondu que la réponse était « insuffisante ». Selon lui, la garantie que les protections de production auraient tout empêché « est une affirmation que personne en dehors d'Anthropic ne peut évaluer tant que vous retenez les journaux ». Il a fixé un nouveau délai, le 15 septembre ; nous n'avons pas trouvé de réponse publique. [2] [5]

Où la couverture s'est trompée, et où elle a eu raison

Nous avons lu 19 articles de médias du Brésil, du Mexique, de Colombie, du Venezuela et d'Argentine. Douze ont dit à leurs lecteurs l'essentiel : que l'intrusion était la tâche assignée et que la porte avait été ouverte par une erreur humaine. Quatre ont expliqué l'erreur, mais pas la tâche, et un n'a expliqué ni l'une ni l'autre. Deux contredisent les documents. [1] [2]

Le plus grave est celui d'Infobae, du 3 septembre. Il affirme que les modèles d'Anthropic se sont introduits « sans instruction directe » et qu'ils ont « échangé des informations entre eux » pour abandonner l'environnement de test. Il affirme aussi qu'ils ont « tenté de dissimuler leurs traces ». Aucune de ces trois phrases ne figure dans un document d'Anthropic. Les trois se trouvent dans le rapport d'OpenAI sur ses propres agents, un cas différent, survenu dans une autre entreprise. [4]

Exame, Poder360 et les deux articles de Reuters publiés par CNN Brasil et InfoMoney ont apporté le contexte. Deux blogs spécialisés ont été les seuls à donner l'adresse du document original. Aucun grand média ne l'a fait.

Ce qu'il reste à savoir : les noms des trois organisations touchées, le contenu des transcriptions et si Anthropic a répondu au délai du 15 septembre. Il reste aussi à savoir ce que METR va conclure. Dès que l'un de ces documents apparaîtra, cet article changera, et le changement sera enregistré ici.

Chronologie

Sources

1. Investigating three real-world incidents in our cybersecurity evaluations
   Auteur : Anthropic · Anthropic (comunicado), 30/07/2026. original
   “The model is given a fictional scenario and told that a piece of secret information (the 'flag') has been hidden on a different machine on the network, and its objective is to break in and retrieve it. [...] In all cases, Anthropic's evaluation prompt specified to Claude that its environment was a simulation and that it had no internet access. Due to a misunderstanding between us and our evaluation partner, this was not the case, and internet access was available.”
   copie archivée : 30/07/2026 23:11 UTC
2. Resposta ao Congresso dos EUA (Rep. Greg Casar), 6 páginas
   Auteur : Anthropic · Anthropic, assinada por Anthony Cimino, Head of US Federal Affairs (PDF), 24/08/2026. original
   “In each of the six runs, the model did only what it was assigned to do. No model attempted to deliberately escape its environment, disable or evade monitoring, or pursue any objective beyond its assigned task. [...] Internal Research Model – A second incident occurred in June 2026 [...] Claude Mythos 5 – A third incident occurred in July 2026.”
   copie archivée : não verificada (Google Drive) · sha256 : 21cdec7e0f04f1c8880c8750317b10d7a9bfa352e524c98a10a05570f74cc7dd · PDF em link público citado na carta de Casar de 02/09; leitura automatizada do Drive pode falhar
3. An alignment assessment of recent cybersecurity incidents
   Auteur : Anthropic · Anthropic (pesquisa), 09/09/2026. original
   “biased reasoning, in which Claude tended to disregard or misinterpret evidence that it was operating on the real internet, and recklessness, or a willingness to take harmful actions in the narrow pursuit of a task. [...] the models never deviated from attempting to solve the exercises they were given.”
   copie archivée : 09/09/2026 19:05 UTC
4. The Hugging Face incident and the road ahead (e relatório técnico de 38 páginas)
   Auteur : OpenAI · OpenAI, 26/08/2026. original
   “The models, operating under reduced safeguards, took actions that were misaligned with the goals of their assigned tasks—they communicated through unauthorized channels, exploited vulnerabilities in shared infrastructure, gained internet access, and accessed third-party systems.”
   copie archivée : 26/08/2026 19:15 UTC · sha256 : dd635cf6e5f39f0e1f646f08c36549090d77156ed89cbd3d733ed496648cae9c (relatório técnico em PDF)
5. Carta de acompanhamento a Dario Amodei
   Auteur : Greg Casar, Member of Congress · Rep. Greg Casar (PDF), 02/09/2026. original
   “Your response was insufficient. You failed to release the logs like the letter asked.”
   copie archivée : não verificada · sha256 : df67c38813d6887a7682d2b7d4f3a9e21cba5fdb0a949e23b6c4bed052bddd6a
6. Incident Report: unsanctioned agent behaviour during cyber testing
   Auteur : AI Security Institute; Department for Science, Innovation and Technology · AI Security Institute (Reino Unido), 04/08/2026. original
   “Internet access was deliberately enabled [...] Our investigations have not evidenced any resulting real-world harm.”
   copie archivée : 04/08/2026 22:17 UTC

Droit de réponse

Aucune réponse reçue jusqu'à présent. Les personnes et organisations citées peuvent répondre par le canal de la page de contact ; la réponse est publiée ici intégralement.