Le modèle Mythos d'Anthropic a découvert des vulnérabilités dans des systèmes classifiés du gouvernement américain – rapport

Le modèle Mythos d'Anthropic a identifié des vulnérabilités dans des systèmes informatiques hautement sensibles du gouvernement américain lors d'un exercice de test, a rapporté l'Associated Press le mardi 23 juin.

Anthropic s'est associé aux agences de renseignement de Washington pour mener des tests utilisant Mythos dans le cadre du Projet Glasswing, a indiqué l'AP, faisant référence à un programme restreint conçu pour trouver et corriger les vulnérabilités dans les logiciels critiques avant que des attaquants ne puissent les exploiter.

Le sénateur Mark Warner de Virginie a évoqué ces tests lors d'une audition au Congrès ce mois-ci, déclarant avoir été informé par le chef de la National Security Agency, Joshua Rudd, que Mythos « avait pénétré dans presque tous nos systèmes classifiés, non pas en semaines, mais en heures ».

Citant un responsable américain non identifié, l'AP a indiqué que bien que Mythos ait identifié certaines vulnérabilités en quelques heures, cela ne signifiait pas que le modèle était en mesure de les exploiter dans ce délai.

La Maison Blanche, Anthropic et le Département de la Défense n'ont pas répondu immédiatement aux demandes de commentaires de Reuters.

La relation d'Anthropic, en passe d'entrer en bourse, avec le gouvernement américain a été tumultueuse. L'entreprise a refusé d'autoriser l'armée américaine à utiliser ses modèles d'IA pour la surveillance intérieure et les systèmes d'armes entièrement autonomes, et le gouvernement a riposté en l'inscrivant sur une liste noire de sécurité nationale.

Le gouvernement américain a également, ce mois-ci, ordonné à l'entreprise de suspendre les exportations de ses derniers modèles d'IA Mythos et Fable vers toutes les destinations mondiales et tous les ressortissants étrangers, invoquant des préoccupations de sécurité nationale.

Le New York Times a rapporté plus tôt dans la journée que la NSA avait perdu l'accès à Mythos au milieu de ce différend. – Rappler.com