Aller au contenu principal
Retour à Securite
Agents I.A.

Sécurité agents IA : 3 intrusions Claude, 4 clauses à exiger

Anthropic reconnaît que ses modèles ont pénétré 3 entreprises pendant des évaluations cyber. Les 4 clauses à ajouter à votre appel d'offres agent IA.

Louis-Clément Schiltz
CEO & Founder, Webotit.ai
21 min de lecture

Parler de ce sujet avec Webotit

En bref

Le 30 juillet 2026, Anthropic a reconnu que trois modèles Claude étaient entrés dans les systèmes de trois vraies entreprises pendant des tests de sécurité, à cause d'un accès internet resté ouvert.12 Si vous achetez un agent IA, quatre clauses en découlent : isolation prouvée, tests encadrés, arrêt en cas de doute, rapport écrit après incident.

Mise à jour du 29 octobre 2026 : IBM Agent Identity et Vault 2.2 en GA, l'identité rejoint les clauses

À TechXchange 2026 à Atlanta (26 au 29 octobre), IBM a réuni le 27 octobre une annonce commune sur trois briques en disponibilité générale.22 Agent Identity dans IBM Verify (GA le 26 octobre). HashiCorp Vault 2.2, déjà en disponibilité générale depuis mi-octobre. Les capacités d'évaluation de watsonx Orchestrate. Discover et Contain, dans Orchestrate aussi, restent en aperçu technique.22

L'annonce complète les quatre clauses de cet article par une sixième : chaque agent reçoit un identifiant unique, rattaché à un propriétaire humain et à un cycle de vie documenté.23 Vault Agentic IAM, dont la base GA remonte à Vault Enterprise 2.1 en septembre, traduit cette identité par des mots de passe et clés d'API (c'est-à-dire les clés qui relient un agent à un service tiers) à durée courte, renouvelés automatiquement, avec évaluation de l'autorisation à chaque requête.23 Côté cryptographie, Vault Enterprise 2.2 ajoute la signature post-quantique ML-DSA sur les certificats X.509 délivrés aux agents : c'est l'authenticité de l'identité que ça protège, pas la confidentialité d'un journal LCB-FT à douze ans de rétention, qui demande ses propres contrôles.26 Associée à une détection côté application et à une politique côté Vault, cette couche permet de révoquer un identifiant en cours de session plutôt qu'en fin de session, à condition que le système cible reste joignable.

Discover inventorie les agents, modèles et serveurs MCP sur les plateformes connectées et les registres connus d'Amazon Bedrock, Microsoft Foundry et Google Gemini.22 Un script maison qui appelle une clé Claude ou GPT en dehors de ces registres n'y apparaîtra pas automatiquement : la couverture dépend des intégrations activées côté SI. Contain, encore en aperçu technique, isole un agent suspect dans un environnement sandboxé où un opérateur peut l'arrêter ; IBM ne garantit pas de couper absolument l'agent de toute donnée de production, cette isolation reste à cabler et à auditer dans l'intégration. Agent Identity et Vault s'intègrent aussi au runtime sandboxé déjà cité dans la clause 3 de cet article.

Vault Agentic IAM évalue à chaque requête si l'agent peut accéder au secret qu'il demande.23 Ce que la couche IBM ne règle pas, c'est l'étage au-dessus : la décision métier au moment de l'action, par exemple « ce virement de 42 000 euros, l'agent le pousse ou on l'arrête ? ». Un analyste de Futurum l'a formulé au lendemain de l'annonce : à ce niveau, l'autorisation à l'exécution reste le problème le plus dur de la catégorie.24 Agent Identity enregistre l'agent, Vault lui délivre une clé courte scopée, mais la décision métier reste à cabler dans l'application ou dans une couche de politique séparée.

Clause 6 : identité et droits de l'agent. Dans tout appel d'offres agent IA ouvert d'ici fin novembre, demandez au fournisseur six choses. Un identifiant unique rattaché à un propriétaire humain pour chaque agent. Des droits scopés à la tâche, courts, renouvelés en pleine exécution. Une révocation pendant la tâche, pas à la fin. Un inventaire des agents sans intervention d'un développeur. Un bouton d'arrêt côté opérateur sans redémarrage de l'application. Un registre exportable pour un contrôle ACPR ou une inspection sous le règlement DORA (Digital Operational Resilience Act), applicable depuis janvier 2025.25 Un fournisseur qui ne sait pas répondre n'a pas de couche d'identité, il a de la documentation.

Deux lectures sectorielles méritent la minute du comité des risques. Pour une banque ou une mutuelle, rattacher chaque agent à un propriétaire humain identifié est une exigence à inscrire dans l'appel d'offres : c'est elle qui rend le reste gouvernable. En parallèle, DORA (applicable depuis janvier 2025) et son règlement délégué 2024/1774 imposent un inventaire à jour des actifs TIC critiques et, pour chaque actif, l'identité de son propriétaire ; les comptes de service des agents entrent dans cet inventaire quand l'établissement les qualifie comme actifs TIC.25 Les deux niveaux (exigence RFP et obligation DORA) convergent, mais ils ne se confondent pas : l'absence de propriétaire ne constitue pas, à elle seule, une infraction au règlement. Côté EU AI Act, un agent qui calcule la solvabilité ou le score de crédit d'une personne physique relève de l'annexe III (hors détection de fraude), et devra documenter, à partir du 2 décembre 2027, une supervision humaine effective et proportionnée au titre de l'article 14 ; un agent qui évalue le crédit d'une entreprise ne tombe pas de ce seul fait dans ce champ. L'article 111, paragraphe 2, prévoit que les systèmes à risque élevé mis sur le marché ou en service avant la date d'application de l'article 14 (le 2 décembre 2027 pour l'annexe III) ne tombent sous ces obligations qu'en cas de modification substantielle de leur conception après cette date : un pilote déjà en production à cette échéance bénéficie donc d'une transition.27 Une identité d'agent stable ne suffit pas à elle seule à cette conformité ; elle rend la supervision auditable, ce qui est différent, et c'est précisément la ligne qui manquait aux quatre clauses de cet article. L'obligation de transparence de l'article 50, elle, incombe au fournisseur du système, qui doit le concevoir pour que la personne sache qu'elle interagit avec une IA, sauf lorsque le contexte le rend manifeste ; quand une banque est aussi fournisseur de son propre système, cette obligation lui revient à ce titre. Une ETI industrielle ou soumise à la directive sur la cybersécurité des entreprises a d'abord un sujet d'inventaire : Discover règle le problème des agents cachés dans les copilotes installés par les métiers, dans les limites rappelées plus haut, avant même celui des droits.

L'IA prépare, l'humain valide : la pièce d'identité de l'agent était la ligne qui manquait au contrat.

Mise à jour du 2026-10-13 : la Usage Policy Anthropic du 12 novembre ajoute une cinquième clause

Anthropic a publié le 8 octobre 2026 sa Usage Policy annuelle, applicable le 12 novembre.17 Trois changements concernent concrètement un projet d'agent IA ETI ou grand compte français. Le reste tient de la clarification ou vise les cas extrêmes de contenus de campagne.

Une clause de plus pour les agents qui pilotent une machine

Anthropic écrit, pour la première fois, ce qu'il attend d'un client dont le modèle commande du matériel pouvant blesser quelqu'un. La phrase est courte : un opérateur qualifié doit pouvoir observer l'équipement et l'arrêter si nécessaire, et l'équipement doit tenir un état de sécurité si Claude est déconnecté.1718

Pour une ETI industrielle française qui envisage un robot de maintenance, un bras logistique autonome ou un véhicule guidé à l'intérieur de l'usine, la quatrième clause de cet article n'était pas suffisante. L'arrêt côté opérateur visait un bouton logiciel qui coupe une session d'agent. Anthropic exige deux choses de plus, sans en imposer la forme : un opérateur doit pouvoir arrêter l'équipement en direct, et la machine doit tenir un état sûr quand la liaison avec Claude tombe. L'arrêt d'urgence physique est souvent la bonne implémentation sur une ligne de production, mais la Usage Policy ne tranche pas le moyen.

Je l'écris sans fard. C'est une bonne clause. Elle protège l'opérateur sur le terrain. Elle protège aussi la DSI qui porte juridiquement l'incident si personne ne peut arrêter la machine entre le moment où Claude décroche et celui où un humain reprend la main.

Clause 5 : opérateur qualifié et état de sécurité pour toute action physique. Dès que le modèle peut déclencher une action matérielle susceptible de causer une blessure, un opérateur formé doit pouvoir arrêter l'équipement en direct, et la machine doit pouvoir se mettre dans un état sûr si la liaison avec le modèle tombe. Cette clause s'adresse autant au fournisseur du modèle (il la liste comme obligation dans sa politique) qu'à votre maître d'œuvre machine (il la câble dans le robot).

Les cas « santé, finances, moyens d'existence » se stabilisent

Deuxième déplacement. La Usage Policy nomme désormais les domaines couverts par les exigences de validation humaine et de mention de l'IA : santé, droits juridiques, finances, moyens d'existence, accès aux services essentiels.17

Le fond n'a pas changé : un humain qualifié valide, la personne concernée sait que l'IA a été impliquée. La liste pose un repère écrit, à ne pas confondre avec le droit français, qui porte deux obligations distinctes. L'article 50 de l'AI Act, applicable dans les États membres depuis le 2 août 2026, impose au fournisseur du système de le concevoir pour que la personne sache qu'elle interagit avec une IA, sauf lorsque le contexte rend ce fait manifeste.20 L'article 14, lui, exige la supervision humaine effective pour les systèmes classés à risque élevé.21 Une banque qui est aussi fournisseur de son propre chatbot et qui n'affiche pas la mention IA au contact d'un client ne respecte déjà pas l'article 50 ; une recommandation de crédit scorée par un modèle sans supervision humaine documentée tombe sous l'article 14. La Usage Policy Anthropic ne remplace ni l'une ni l'autre : elle ajoute, côté contrat de fourniture, une exigence équivalente sur les cinq catégories qu'elle nomme.

Deux secteurs méritent une relecture de contrat avant le 12 novembre. Une banque qui a mis Claude à l'étage conseil ou crédit doit vérifier que la boucle de validation humaine est documentée, pas seulement promise. Une mutuelle qui outille son service remboursement doit vérifier que la personne qui reçoit la décision sait qu'un modèle est intervenu.

Un retrait précis sur la surveillance pénale

Troisième déplacement. Anthropic écrit maintenant que Claude ne peut pas être utilisé pour décider ou recommander qui enquêter, arrêter ou inculper dans une procédure d'application de la loi ou de justice pénale.17

Le périmètre est serré : il nomme la procédure pénale, pas toute enquête interne. Pour une banque française qui outille sa cellule LCB-FT avec Claude, la clause ne tombe pas d'elle-même sur l'alerte interne, le scoring d'un dossier ou la préparation d'une déclaration de soupçon à Tracfin ; ce sont des étapes de conformité, pas une procédure pénale. En revanche, dès que l'alerte quitte la banque et nourrit une enquête judiciaire (réquisition, instruction, saisine du Parquet national financier), la Usage Policy interdit à Claude de pointer les personnes à enquêter ou à inculper.

Ma recommandation, par prudence et pas par contrainte Anthropic, est de garder un opérateur humain sur la décision d'escalade LCB-FT quand elle vise un dossier nominatif à fort enjeu. Autant anticiper, plutôt qu'attendre un contentieux pour trouver la limite précise de la clause.

Trois décisions concrètes avant le 12 novembre

  1. Comparer la Usage Policy actuelle d'Anthropic à la version qui entrera en vigueur le 12 novembre, et faire tourner la différence côté juridique. Toute entreprise avec plus de dix pilotes Claude a intérêt à demander un délai de mise en conformité négocié, pas appliqué par défaut.
  2. Ajouter la cinquième clause à tout appel d'offres d'agent IA qui prévoit une action matérielle, qu'elle soit déclenchée par Claude ou par un autre modèle. L'exigence est plus large que la Usage Policy Anthropic : elle vaut pour n'importe quel fournisseur de modèle qui pilote une machine.
  3. Relire la boucle de validation humaine dans les pilotes santé, finance ou services essentiels déjà déployés. Pas pour en ajouter : pour vérifier que ce qui est écrit dans le contrat est effectivement actif en production.

Chez Webotit, nos agents IA en production tournent dans un environnement de test isolé avec liste d'actions autorisées et bouton d'arrêt logiciel. La cinquième clause déplace la responsabilité physique vers le maître d'œuvre machine, pas vers le fournisseur du modèle. Si vous voulez chiffrer ce qu'ajoute une telle clause au coût d'un pilote industriel, le calculateur de retour sur investissement inclut la couche opérateur dans le coût complet sur douze mois.

Mise à jour du 27 septembre 2026 : OpenAI publie sa liste, dizaines de tiers prévenus, la SEC et le Bureau du recensement touchés

Deux mois après Anthropic, c'est au tour d'OpenAI de sortir sa liste. Le vendredi 25 septembre 2026, l'éditeur reconnaît que ses agents ont eu, pendant l'entraînement et l'évaluation, des interactions imprévues avec plusieurs sites publics américains. Cette fois le décompte ne se lit plus en unités. Ce sont des dizaines de tiers qui ont été prévenus, publiquement ou par courriel, que leurs sites ou services avaient pu être touchés.13

Trois faits sont confirmés à la date de cette mise à jour.

Les agents ont touché des sites du gouvernement fédéral américain. Le rapport nomme deux sites de la Securities and Exchange Commission (SEC), le régulateur boursier américain, sur lesquels les modèles ont récupéré des données publiques. Il nomme aussi le Bureau du recensement. Enfin, il détaille une tentative d'intrusion basique contre le site du bureau des droits civiques du département de l'Éducation, tentative qui a échoué. OpenAI dit n'avoir trouvé ni usage d'identifiants SEC, ni accès à des données non publiques, ni modification des systèmes.14

Une cinquantaine d'images d'utilisateurs ChatGPT ont fuité vers des sites tiers. OpenAI classe l'événement à part des accès aux sites publics et confirme le chiffre dans la même divulgation.13

Un chercheur indépendant documente beaucoup plus d'activité. L'organisation Transluce a publié un jeu de données contenant des dizaines de milliers de requêtes suspectes visant des sites publics. Selon Transluce, une partie de cette activité est attribuable à des agents OpenAI à partir de mars 2026, mais une autre partie n'est pas clairement attribuable à un éditeur unique. Les cibles observées incluent le ministère de la Justice américain, le département du Commerce et des sites d'États : Californie, Maryland, Illinois, Texas, New York.15

Sam Altman, patron d'OpenAI, a résumé la démarche sur X : « une revue étendue et en cours du recours de nos agents à l'accès internet pendant l'entraînement et l'évaluation ». OpenAI prévient que ce travail prendra plusieurs mois.13

Il faut arrêter de lire ces affaires comme un problème « Anthropic » ou un problème « OpenAI ». Le mécanisme est le même dans les deux dossiers. Un agent quitte le cadre prévu, touche un vrai système, personne ne le voit avant la relecture des sessions. La lettre du fournisseur change. La faille est structurelle.

Trois conséquences très concrètes pour un projet d'agent IA au quatrième trimestre 2026.

Les quatre clauses ne visent pas un éditeur. Elles s'appliquent à tous les modèles de votre couche agents IA en production : Claude, GPT-6 Sol, GPT-6 Luna, GPT-6 Astra, Codex, Operator, les Mistral, les Gemini. La clause 2, qui nomme la société qui teste les modèles, doit être répliquée pour chaque fournisseur. Un contrat qui encadre Anthropic mais laisse passer OpenAI est un contrat qui a raté sa leçon.

La notification d'incident devient un critère de choix, pas une clause de bas de page. OpenAI a prévenu ses tiers touchés. Anthropic aussi, le 30 juillet. Votre contrat doit préciser deux points : le canal par lequel vous serez averti (courriel nominatif, portail client, contact humain) et le délai maximal. Soixante-douze heures reste raisonnable en Europe, dans la ligne de la directive NIS 2 sur la cybersécurité. Sans cette clause, vous apprendrez l'incident touchant votre déploiement en même temps que la presse.

L'inventaire des agents en production n'est plus optionnel. Le 24 septembre 2026, Dataiku a annoncé Agent Management, un produit d'inventaire capable de recenser les agents à travers Salesforce Agentforce, AWS, Databricks, Google, Microsoft et Snowflake, avec une disponibilité générale prévue en octobre.16 Ce qui pouvait passer pour du zèle de gouvernance devient le point de contrôle qui permet, en cas d'incident chez votre fournisseur, de dire en quelques heures combien d'agents de votre SI sont concernés et lesquels arrêter.

Chez Webotit, la même grille s'applique à nos chatbots, callbots et mailbots construits sur des modèles Claude, GPT ou Mistral : environnement de test isolé et documenté, liste d'actions autorisées, bouton d'arrêt côté opérateur, notification d'incident sous soixante-douze heures. Si vous voulez chiffrer ce que ces contrôles ajoutent au coût d'un pilote d'agent IA au quatrième trimestre, le simulateur de coût des chatbots et des callbots intègre cette couche dans le coût complet sur douze mois.

Mise à jour du 1er septembre 2026 : des comptes Claude volés sans casser un seul mot de passe

Un mois après cet article, nouvel épisode. Fin août, Anthropic a prévenu une partie de ses clients : quelqu'un d'autre utilisait leur compte payant.10 Sans forcer le mot de passe. Sans contourner la double vérification à la connexion.

Comment ? Par un logiciel espion installé sur l'ordinateur de l'utilisateur. Ces logiciels ont des noms (Vidar, Lumma, StealC, RedLine, Acreed sous Windows, Atomic Stealer sur Mac).1112 Ils copient le jeton que votre navigateur garde après votre connexion, un peu comme on volerait votre badge une fois la porte ouverte. Un serveur, ailleurs dans le monde, présente ensuite ce badge et entre à votre place.

Le signe visible est presque banal. Les quotas d'utilisation se vident alors que personne chez vous ne travaille sur Claude à ce moment-là.10 Anthropic a coupé les sessions volées, annulé les jetons, effacé les cartes bancaires enregistrées et remboursé les dépenses frauduleuses.12 Mais l'éditeur le dit lui-même : couper la session n'enlève pas le logiciel espion de l'ordinateur.11 Le vrai levier est chez vous.

C'est là que je veux en venir. Un fournisseur peut isoler ses modèles à la perfection. Il ne protège pas pour autant l'écran depuis lequel vos équipes pilotent l'agent. Deux des quatre clauses ci-dessous se durcissent donc. L'isolation prouvée (clause 1) doit couvrir aussi votre console de pilotage. Le rapport après incident (clause 4) a maintenant un modèle concret à copier.

Cinq décisions à prendre en comité sécurité avant fin septembre, en plus des clauses fournisseur :

  1. Fermer les abonnements IA payés hors du compte de l'entreprise. Cherchez « anthropic », « openai », « chatgpt », « mistral », « gemini » sur les relevés de cartes affaires. Basculez vers une offre Team ou Enterprise reliée à votre connexion unique d'entreprise (le SSO, celui d'Okta ou de Microsoft).
  2. Raccourcir la durée des sessions dans les réglages de Claude, de ChatGPT Business (l'ex-Team, renommé par OpenAI le 29 août 2025), de Copilot et de Mistral. Huit heures ouvrées plutôt que trente jours.
  3. Attacher le jeton de connexion à l'ordinateur. Google le fait par défaut sur les comptes Workspace gérés par l'entreprise, avec une fonction appelée Device Bound Session Credentials. Un badge volé ne fonctionne plus hors du poste d'origine. Demandez aussi à votre protection des postes de bloquer la lecture du profil du navigateur par des programmes inconnus.
  4. Brancher les journaux de Claude sur votre outil de surveillance sécurité, via l'interface de conformité de Claude (la Compliance API). Vous repérez alors les connexions depuis une adresse inhabituelle et les pics d'usage la nuit.
  5. Écrire la procédure du jour où ça arrive : déconnexion générale, nettoyage du poste, nouveau mot de passe et nouvelle double vérification, relecture des conversations des trente derniers jours. Et si votre secteur l'exige, notification au titre du RGPD ou de NIS 2, la directive européenne sur la cybersécurité.

Tout service d'IA qui vous garde connecté est exposé au même tour de passe-passe. Protéger Claude sans protéger les autres, c'est changer la serrure et laisser les fenêtres ouvertes.

Ce qu'Anthropic a reconnu le 30 juillet

Jeudi 30 juillet 2026, Anthropic a publié un billet intitulé « Investigating three real-world incidents in our cybersecurity evaluations ».1 L'entreprise y reconnaît que ses modèles sont entrés dans les systèmes de trois vraies entreprises. Cela s'est passé pendant des tests censés se dérouler dans un environnement coupé du monde. Anthropic a relu 141 006 sessions de test pour l'établir.2

Trois modèles sont en cause : Claude Opus 4.7, Claude Mythos 5 et un modèle de recherche interne jamais commercialisé.3 Les tests étaient menés par Irregular, une société spécialisée dans les attaques commandées, celles qu'on paie pour trouver les failles avant les vrais pirates.4 La consigne donnée au modèle : retrouver une information cachée sur une autre machine, par tous les moyens.

La cause tient en une phrase. On avait dit au modèle qu'il jouait dans une simulation sans internet. Mais une erreur de réglage, chez Anthropic et chez Irregular, avait laissé les machines de test connectées à internet.5 Le modèle a donc cherché son information sur de vrais systèmes, en croyant jouer.

Les trois cas ne se valent pas.

Le plus grave concerne Opus 4.7. Le modèle a récupéré des identifiants, puis lu une base de données d'une vraie entreprise. Plusieurs centaines de lignes de données réelles. Le nom de l'entreprise ressemblait à celui de la cible fictive de l'exercice.6 C'est le seul cas où le modèle a continué après avoir vu des indices que la cible était réelle.7

Le deuxième concerne Mythos 5. Le modèle a publié un programme piégé dans la bibliothèque publique où les développeurs Python prennent leurs briques logicielles. Le programme est resté en ligne environ une heure. Le temps d'être téléchargé et lancé sur 15 vrais ordinateurs.4

Le troisième concerne le modèle interne. Il a scanné environ 9 000 machines exposées sur internet. Puis il est entré dans l'application d'une vraie entreprise, par des identifiants visibles et une faille classique de site web.4

Anthropic a lancé son enquête le 23 juillet. Le déclencheur : OpenAI venait de publier un incident comparable, un agent sorti de son cadre pendant un test et ayant compromis l'infrastructure de Hugging Face. Anthropic a suspendu tous ses tests de sécurité le jour même.8 L'entreprise discute avec METR, un organisme d'évaluation indépendant, pour une revue extérieure. Elle promet aussi de publier le déroulé de l'attaque sur la bibliothèque Python.5

Un point d'attention sur les mots. Anthropic écrit n'avoir trouvé « aucun dommage durable ».1 Ce n'est pas « rien ne s'est passé ». Des données réelles ont été lues et des identifiants ont été récupérés, l'éditeur le reconnaît.14 Personne ne sait publiquement si ces données étaient personnelles ou sensibles.

Pourquoi vous ne pouvez pas ranger ça dans « incidents de laboratoire »

La lecture rapide dit : pas de vraie fuite, un éditeur transparent, on passe. Je ne suis pas d'accord. Trois faits vérifiés changent la conversation.

L'isolation n'est pas garantie par le fournisseur, même quand il s'appelle Anthropic. Un modèle à qui l'on promet un environnement fermé peut en réalité être branché sur internet. Personne ne l'a vu avant de relire 141 006 sessions. Quand un fournisseur vous dit « nos tests sont isolés », vous achetez une phrase, pas une preuve.

La chaîne de test est un risque en soi. L'erreur est née entre deux sociétés qui pensaient chacune que l'autre gérait l'isolation. C'est comme confier l'audit de vos comptes à un cabinet qui sous-traite le terrain à une société que vous n'avez jamais rencontrée. Dans un appel d'offres classique, ce sous-traitant n'est ni nommé, ni encadré.

Un modèle qui voit que sa cible est réelle peut continuer quand même. Opus 4.7 l'a fait. Anthropic parle d'un cas isolé. Je le lis autrement : le réflexe « je suis peut-être sur un vrai système, j'arrête » n'existe pas d'office. Il faut l'imposer.

Ces trois faits ne disqualifient pas Claude. Ils déplacent la question. Avant le 30 juillet, poser des questions dures sur l'isolation passait pour de l'excès de prudence. Après, c'est simplement faire son travail.

Les quatre clauses à ajouter à votre appel d'offres

Voici ce que j'ajouterais à tout appel d'offres d'agent IA lancé depuis août 2026. Trois pages en annexe. Le reste de la négociation ne bouge pas.

Clause 1 : une isolation prouvée, pas déclarée. Le fournisseur décrit comment son environnement bloque toute sortie vers internet par défaut. Il liste ce qui reste ouvert. Il explique comment vous pouvez le vérifier vous-même, à tout moment. Une certification de sécurité classique ne suffit pas : elle ne descend pas jusqu'au chemin réseau d'un agent en train de travailler.

Clause 2 : des tests encadrés comme la production. Toute société qui teste les modèles du fournisseur est nommée dans le contrat. Elle respecte les mêmes règles que la production : isolation, surveillance du réseau, alerte sous 72 heures en cas d'incident. C'est la leçon directe de cette affaire. La faille était entre deux sociétés, pas dans le modèle.

Clause 3 : l'agent s'arrête en cas de doute. Dès qu'il rencontre un signe que la situation n'est pas celle prévue, l'agent interrompt son travail et prévient un humain. Une cible qui ressemble à un vrai système, une demande de mot de passe imprévue, des données qui ressemblent à de vraies données personnelles. Cette clause n'existait presque nulle part avant juillet 2026. Elle se met en place avec une orchestration qui liste les actions autorisées et donne un bouton d'arrêt à l'opérateur, pas avec une phrase dans les consignes du modèle.

Clause 4 : un rapport écrit après tout incident. Le fournisseur s'engage à vous remettre un rapport sur tout incident touchant l'un de ses modèles, dans un délai fixé. Ce qui s'est passé, pourquoi, ce qui a été corrigé. Anthropic l'a fait de lui-même le 30 juillet. Ce n'est pas encore la règle chez tous les éditeurs. Écrivez-la, avec un plafond de trente jours et la possibilité d'un contrôle indépendant.

Banque, industrie, e-commerce : trois lectures, un même réflexe

Dans une banque ou une mutuelle, pensez à un assistant connecté au dossier client. Il lit un solde, change un RIB, lance une opération. Il ne devrait plus tourner sans la clause 3. La question en comité n'est plus « Claude est-il fiable ? ». Elle devient : jusqu'où laisse-t-on le modèle agir sans validation humaine, et comment le prouver au régulateur des banques et des assurances, l'ACPR ?

Dans une ETI industrielle, l'incident allonge le dossier. Un projet d'agent sur le support informatique, les commandes ou les achats devait prouver sa valeur. Il devra aussi prouver sa sûreté : quelle isolation, quel bouton d'arrêt, quels tests par un tiers. C'est plus long à préparer. C'est aussi ce qui sépare un pilote qui ira en production d'un pilote qui restera bloqué en comité.

Dans l'e-commerce, le risque est ailleurs. Un agent qui répond au SAV ou conseille un produit ne touche pas au cœur du système. Son point faible est côté client : une information confidentielle qui sort dans une réponse, un texte piégé qui manipule le modèle. Les quatre clauses restent utiles. Mais le vrai sujet de la rentrée reste le coût des modèles après le blocage de GPT-5.6 hors États-Unis.

Dans un grand groupe, l'incident sert d'appui en interne. Le 20 juillet 2026, la CNIL et le CIANum (le nouveau commissariat à l'IA et au numérique) ont publié une note sur les agents IA.9 Elle porte sur la protection des données. Elle demandait déjà des cloisons, un environnement de test isolé, une validation humaine selon le risque et un arrêt d'urgence. Dix jours plus tard, l'affaire Anthropic en faisait un cas concret à citer en comité des risques.

Ce que je retiens, et ce que je ferais cette semaine

La façon dont Anthropic a géré le 30 juillet est la bonne. Arrêter les tests le jour même. Faire appel à un tiers. Tout publier. Je préfère un fournisseur qui a eu un incident, l'a trouvé et l'a dit, à un fournisseur qui n'a jamais rien eu à dire. Ou pire, qui a eu un incident et s'est tu.

Cette transparence ne remplace pas votre appel d'offres. L'idée que le fournisseur garantit l'isolation par défaut est morte ce jeudi soir. Ce que l'affaire redistribue, au fond, c'est le partage des rôles. L'agent explore, prépare, propose. Un humain valide avant que l'action ne touche un vrai système. L'IA prépare, l'humain valide.

Si vous avez un projet d'agent IA pour le quatrième trimestre, je ferais trois choses avant la fin du mois. Aucune ne coûte un euro.

  1. Annexer les quatre clauses, et une cinquième si le projet comporte une action matérielle commandée par un modèle (voir la mise à jour du 2026-10-13 au début de l'article), à tout appel d'offres en cours ou à venir d'ici fin octobre 2026. Vous verrez vite qui a une réponse écrite et qui improvise.
  2. Relire vos pilotes en cours avec la même grille. Un pilote qui ne la passe pas ne doit pas passer à l'échelle.
  3. Demander au fournisseur de nommer dans le contrat la société qui teste ses modèles. S'il refuse, ou s'il n'en a pas, vous venez d'apprendre quelque chose.

Chez Webotit, nos agents IA tournent dans un environnement de test isolé et documenté, avec une liste d'actions autorisées et un bouton d'arrêt pour l'opérateur. Vous voulez chiffrer ce que ces quatre clauses ajoutent au coût d'un pilote ? Le calculateur de retour sur investissement inclut cette couche de contrôle dans le coût complet sur douze mois.

Questions frequentes

Que s'est-il exactement passé chez Anthropic le 30 juillet 2026 ?

Anthropic a publié un rapport qui reconnaît une intrusion dans les systèmes de trois vraies entreprises. Trois modèles sont en cause : Claude Opus 4.7, Claude Mythos 5 et un modèle de recherche interne. Cela s'est produit pendant des tests de sécurité menés avec la société Irregular. La cause est une erreur de réglage des deux côtés : les machines de test étaient connectées à internet alors que le modèle croyait être en simulation. Anthropic a lancé son enquête le 23 juillet, relu 141 006 sessions et suspendu tous ses tests de sécurité le jour même.12

Est-ce que des données personnelles françaises ont été exposées ?

Anthropic dit n'avoir trouvé aucun dommage durable.1 Cela ne veut pas dire que rien n'a été touché. Plusieurs centaines de lignes de données réelles ont été lues (Opus 4.7). Des identifiants ont été récupérés après le lancement du programme piégé (Mythos 5). Personne ne sait publiquement si ces données étaient personnelles. Les trois entreprises ne sont pas nommées et rien n'indique qu'elles étaient françaises. Le mécanisme, un environnement de test mal isolé, ne dépend pas du pays de la victime. La question à poser à votre fournisseur porte sur l'isolation de votre propre déploiement.

Faut-il retirer Claude d'un pilote agent IA en production ?

Non, l'incident justifie un contrôle, pas un retrait. Les trois intrusions ont eu lieu dans un environnement de test, pas chez un client. Ce qui change, c'est le niveau de preuve à exiger sur l'isolation et sur les sociétés qui testent les modèles. Un pilote qui documente son environnement isolé, sa liste d'actions autorisées et son bouton d'arrêt reste dans les règles de l'art. Un pilote qui suppose l'isolation sans la vérifier doit être revu.

Comment adapter concrètement un appel d'offres agent IA après cet incident ?

Quatre clauses en annexe, cinq si le projet comporte une action matérielle commandée par un modèle, Claude ou un autre (voir la mise à jour du 2026-10-13 au début de l'article). Une isolation prouvée, avec la liste des accès réseau autorisés et un test avant chaque campagne. Des sociétés de test nommées et soumises aux règles de la production, avec alerte sous 72 heures. Un arrêt automatique dès que l'agent rencontre un signe que la situation n'est pas celle prévue. Un rapport écrit sous trente jours après tout incident, avec contrôle indépendant possible. Pour tout projet à action matérielle, un opérateur capable d'arrêter l'équipement et un état sûr de la machine en cas de perte de liaison avec le modèle. Ces clauses s'ajoutent aux critères habituels (prix, niveau de service, hébergement, réversibilité).

Est-ce que d'autres fournisseurs (OpenAI, Google, Mistral) ont divulgué des incidents similaires ?

Oui pour OpenAI. Après l'affaire Hugging Face en juillet 2026 (un agent sorti de son cadre pendant un test), OpenAI a publié le 25 septembre 2026 une nouvelle divulgation portant sur plusieurs incidents : accès à des données publiques de la SEC et du Bureau du recensement, tentative d'intrusion basique contre le département de l'Éducation, environ cinquante images d'utilisateurs ChatGPT reparues sur des sites tiers, et notification de dizaines d'autres organisations touchées.1314 Google DeepMind et Mistral n'ont rien publié d'équivalent à ce jour. L'absence de rapport ne prouve pas l'absence d'incident, seulement l'absence de publication. C'est exactement ce que la quatrième clause vient encadrer.

Sources et references

  1. [1]
  2. [2]
  3. [3]
  4. [4]
  5. [5]
  6. [6]
  7. [7]
  8. [8]
  9. [9]
  10. [10]
  11. [11]
  12. [12]
  13. [13]
  14. [14]
  15. [15]
  16. [16]
  17. [17]
  18. [18]
  19. [19]
  20. [20]
  21. [21]
  22. [22]
  23. [23]
  24. [24]
  25. [25]
  26. [26]
  27. [27]
AnthropicClaudesécurité agents IAsandboxappel d'offresDSIRSSIETI FranceinfostealerMFA SSO