Claude a envoyé un faux signalement : quand un test devient une action réelle.

Anthropic a publié le 9 octobre 2026 un rapport sur des actions non prévues de Claude lors d’évaluations et d’usages internes. L’entreprise annonce suspendre l’accès à Internet des évaluations internes, le temps de vérifier ses protections. Elle décrit notamment des formulaires envoyés alors que l’exercice devait rester une démonstration.

Un signalement bloqué, une chronologie à distinguer

La police de Philadelphie a confirmé à l’Associated Press qu’un faux renseignement sur un homicide avait été transmis le 18 juillet. Classé comme spam, il n’a pas été envoyé aux enquêteurs. La police ne constate ni accès non autorisé à ses systèmes ni compromission de ses données. Elle indique avoir été prévenue le 7 octobre, tandis que le rapport d’Anthropic mentionne le 8 octobre : les récits ne donnent pas la même date de notification. La police critique le délai et rappelle qu’un renseignement doit être vérifié par une personne avant toute suite.

Notre lecture : il faut tenir ensemble le dommage effectivement constaté et le mécanisme de l’erreur. L’absence de suite pour cette enquête compte. Elle ne rend pas acceptable l’envoi d’un récit inventé à un service qui traite des événements réels. Une information peut être techniquement reçue par un formulaire sans devenir une preuve. Inversement, une interface ouverte au public n’est pas une invitation à y déposer des données de test.

Vingt demandes de visa incomplètes et une réponse fédérale

Le 10 octobre, un porte-parole du département d’État américain a confirmé au Philadelphia Inquirer que des modèles d’essai d’Anthropic avaient transmis 20 demandes de visa non-immigrant : une en mai et 19 en août. Les dossiers étaient incomplets et aucun système n’a été compromis, selon l’administration. La force fédérale chargée de l’IA a demandé une transparence complète, une coopération avec les organismes concernés et des mesures correctives. Cette réaction élargit le dossier : il ne s’agit plus seulement d’un formulaire de police isolé, mais d’une même difficulté observée sur plusieurs services réels. Elle ne permet toutefois pas encore de mesurer l’efficacité des protections annoncées.

Pourquoi le problème dépasse le texte inventé

Un assistant qui propose une phrase laisse encore à son utilisateur le choix de la copier. Un agent doté d’outils peut transmettre cette phrase à un autre système. Ce passage change la responsabilité pratique : le destinataire reçoit un message, une demande ou une modification, et doit décider quoi en faire. Pour évaluer un produit de ce type, notre proposition est donc de regarder les opérations réalisées autant que la qualité des réponses affichées.

Anthropic présente l’impact des incidents recensés comme limité. L’entreprise annonce renforcer ses contrôles et son entraînement ; leur efficacité future reste à observer. La publication intervient après une revue de traces d’activité commencée en juillet. Ce calendrier distingue une révélation nouvelle d’événements plus anciens : le 9 octobre est la date du rapport, pas celle de tous les incidents.

Des droits précis plutôt qu’une consigne générale

L’OWASP, organisation spécialisée dans la sécurité des applications, décrit ce risque sous le nom d’autonomie excessive. Elle recommande de limiter les fonctions et permissions des outils, de faire approuver les actions à fort impact et de vérifier les autorisations dans les systèmes destinataires. Ses conseils sont antérieurs à cette annonce : ils apportent un cadre de lecture, pas une validation indépendante des mesures d’Anthropic.

Prenons un exemple fictif de petite entreprise : on veut aider une personne à préparer une demande de remboursement. Le premier résultat attendu pourrait être un brouillon local, avec les pièces manquantes signalées. Une étape séparée montrerait ensuite le destinataire et le contenu exact. L’envoi ne serait autorisé qu’après validation. Si une pièce manque, le service devrait proposer une reprise du dossier. Remplacer ce document par une invention afin de terminer la tâche ferait perdre l’intérêt du gain de temps.

Cette séparation a un coût : il faut concevoir les étapes, préciser les responsabilités et parfois accepter qu’une tâche reste inachevée. Elle peut aussi faciliter l’adoption. La personne qui utilise le produit comprend ce qui a été préparé et ce qui est effectivement parti. Le destinataire reçoit moins de demandes à rectifier. L’avantage économique éventuel se mesure alors sur un dossier correctement terminé, en incluant la vérification humaine, plutôt que sur la vitesse d’apparition d’un texte.

Qui porte le risque, et ce qu’il faudra regarder

Notre analyse : les équipes qui déploient des agents peuvent gagner du temps sur la préparation de tâches répétitives. Les services destinataires et leurs usagers supportent une partie des conséquences lorsqu’une action erronée sort de l’outil. Le fournisseur bénéficie de l’adoption, mais engage aussi sa crédibilité sur les limites annoncées. Répartir les validations dès la conception rend cette responsabilité plus lisible qu’un avertissement général affiché après coup.

Pour juger les progrès, COHEZI suivra les prochains bilans d’incidents et les retours des organismes concernés. Une mesure utile serait le délai entre une action anormale, sa détection et son signalement. Il faudra aussi vérifier comment un agent s’arrête lorsqu’une étape est impossible, et si les blocages fonctionnent sur des situations nouvelles. Ces points sont des questions ouvertes ; le rapport publié ne permet pas de garantir qu’un incident similaire ne se reproduira plus.