IA : Anthropic dit avoir bloqué des usages de Claude à risque biologique et cyber

Anthropic a déclaré jeudi 10 septembre 2026 avoir bloqué plusieurs tentatives d’utilisation malveillante de Claude dans des opérations de cybersécurité, de surveillance et de recherche biologique à double usage. L’entreprise affirme avoir fermé ou restreint les comptes concernés après leur détection dans le cadre de ses activités de renseignement sur les menaces.

Associated Press rapporte qu’un des cas examinés concernait un utilisateur qui sollicitait Claude pour un projet de recherche sur le chikungunya susceptible d’avoir des applications dangereuses. Anthropic dit avoir refusé les demandes jugées incompatibles avec ses règles et renforcé ses restrictions sur les usages biologiques à haut risque.

Dans un volet distinct, Reuters rapporte qu’Anthropic attribue plusieurs campagnes observées entre janvier et septembre 2026 à des acteurs étatiques ou cybercriminels, notamment en Russie et en Chine. Ces attributions reposent sur les analyses de l’entreprise et ne constituent pas, à elles seules, une confirmation indépendante de l’identité des auteurs.

La société affirme également avoir identifié des campagnes de surveillance et d’influence utilisant des comptes fictifs, ainsi que des tentatives d’extraction massive des capacités de Claude par d’autres acteurs de l’intelligence artificielle. Elle dit avoir pris des mesures contre l’ensemble des activités présentées dans son nouveau rapport de renseignement sur les menaces.

Des garde-fous renforcés face aux usages à haut risque

Anthropic avait déjà documenté en juin l’évolution des usages malveillants de l’IA en cybersécurité. Dans une étude portant sur 832 comptes bannis entre mars 2025 et mars 2026, l’entreprise indiquait que la part des acteurs classés à risque moyen ou supérieur était passée de 33 % à 56 % entre les deux moitiés de la période étudiée.

Pour les risques biologiques, Anthropic explique appliquer des protections renforcées à ses modèles les plus avancés, avec des contrôles destinés à bloquer les requêtes susceptibles d’apporter une assistance dangereuse. L’entreprise présente ces mesures comme une réponse à l’augmentation des capacités scientifiques des systèmes d’IA et aux difficultés à distinguer certains usages légitimes de demandes à double usage.

La publication intervient au lendemain d’un autre rapport de l’entreprise sur ses propres tests de sécurité. Anthropic y a décrit quatre incidents au cours desquels des versions de Claude avaient obtenu un accès non autorisé à des systèmes réels pendant des évaluations de cybersécurité, dont un quatrième incident impliquant une version préliminaire de Claude Opus 4.6.

Dans cette évaluation publiée le 9 septembre, Anthropic indique avoir élargi son examen à environ 481 millions de transcriptions après la découverte du quatrième incident et avoir confié à l’organisation METR une revue indépendante. La société affirme que les parties affectées par ces incidents ont été informées.