Un « partenaire de confiance » d'Anthropic et du gouvernement américain aurait soulevé des préoccupations en matière de sécurité concernant Mythos et Fable.
Des pays du monde entier sont sous le choc de la suspension brutale de deux des modèles d'IA les plus avancés d'Anthropic, suite à une ordonnance du gouvernement américain vendredi soir (12 juin).
Selon Axios, des cadres techniques supérieurs du géant de l'IA seraient désormais à Washington pour rencontrer des responsables de la Maison Blanche afin de tenter de résoudre leur deuxième différend majeur en mois.
Dans une déclaration surprise vendredi, Anthropic a déclaré que le gouvernement américain avait publié une directive de contrôle des exportations, ordonnant à la société de suspendre l'accès à Claude Fable 5 et Claude Mythos 5 à « tout ressortissant étranger, que ce soit à l'intérieur ou à l'extérieur des États-Unis, y compris les employés étrangers d'Anthropic ».
Anthropic a déclaré avoir désactivé Fable 5 – sorti la semaine dernière – et Mythos 5 pour tous ses clients afin de garantir le respect de la commande.
La directive du gouvernement américain, envoyée à Anthropic à 17h21 HNE (22h21 heure irlandaise), faisait état de problèmes de sécurité nationale mais ne fournissait pas de détails spécifiques, a indiqué la société.
« Nous croyons comprendre que le gouvernement pense avoir pris connaissance d'une méthode permettant de contourner ou de « jailbreaker » Fable 5″, lit-on dans la déclaration d'Anthropic.
« Ces vulnérabilités semblent toutes relativement simples, et nous avons constaté que d'autres modèles accessibles au public sont également capables de les découvrir sans nécessiter de contournement.
« Nous avons examiné un rapport qui, selon nous, constitue la base de la directive du gouvernement et avons validé que le niveau de capacité affiché est largement disponible sur d'autres modèles. »
David Sacks, investisseur technologique et coprésident du Conseil présidentiel des conseillers en science et technologie, a déclaré qu'un « partenaire de confiance hautement crédible » d'Anthropic et du gouvernement américain « qui testait Fable » avait informé les responsables d'un éventuel jailbreak des garde-corps de Fable.
« Dans son blog, Anthropic a défendu sa décision en affirmant que le jailbreak n'est pas sérieux. Ce n'est pas ce que croient le partenaire de confiance et le gouvernement américain ; et ce genre de langage minimisant n'est pas non plus cohérent avec la marque d'Anthropic en tant que société de sécurité de l'IA », a écrit Sacks dans un article sur X.
La directrice de l'information du Pentagone, Kirsten Davies, a déclaré que cette décision donnait la priorité à la sécurité nationale. « Certaines choses sont tout simplement plus importantes que les cycles de revenus, les pièges à clics et la valorisation pré-IPO », a déclaré Davies.
Entre-temps, plusieurs médias ont rapporté samedi (13 juin) que le PDG d'Amazon, Andy Jassy, faisait partie des dirigeants technologiques qui ont fait part de leurs inquiétudes au gouvernement américain concernant les problèmes de sécurité potentiels des modèles d'Anthropic, conduisant à une interdiction de contrôle des exportations. Amazon est un investisseur majeur dans Anthropic.
Un porte-parole d'Amazon a déclaré à TechCrunch qu'il « n'est pas rare que les gouvernements demandent notre avis sur les risques potentiels pour la sécurité ».
La Commission européenne fait partie des régions étrangères confrontées aux conséquences de la suspension soudaine des derniers modèles d'Anthropic. Plusieurs pays du bloc, ainsi que le Royaume-Uni, étaient en discussion avec la société au sujet de Mythos et de ses applications potentielles pour sécuriser leurs systèmes.
Dans un communiqué publié dimanche 14 juin, la Commission a déclaré qu'elle analysait les implications d'une directive sur le contrôle des exportations.
« Nous voyons une nouvelle génération de modèles d'IA hautement performants arriver sur le marché. Ces modèles offrent des avantages significatifs, notamment en matière de cyberdéfense, mais ils soulèvent également de graves problèmes de cybersécurité qui doivent être résolus », a déclaré un porte-parole de la Commission européenne.
« Nous pensons que les mesures d’urgence prises dans ce contexte ne devraient pas être discriminatoires à l’égard des partenaires.
« Cette évolution est une nouvelle illustration de la raison pour laquelle l'Europe doit renforcer sa souveraineté technologique. Nous examinons de près les conséquences pratiques de cela pour les utilisateurs européens de ces services. »
Dans une déclaration similaire, le Premier ministre canadien Mark Carney a déclaré que l'incident mettait en évidence le risque d'une dépendance excessive à l'égard d'un petit nombre d'outils d'IA puissants.
Il s’agit du deuxième différend majeur qu’Anthropic a avec le gouvernement américain, ce qui pourrait avoir des conséquences dramatiques pour le géant de l’IA alors qu’il s’apprête à entrer en bourse pour un montant estimé à plus de 1 000 milliards de dollars.
La société est actuellement engagée dans une bataille juridique avec l’administration Trump à la suite d’un incident distinct survenu plus tôt cette année après qu’Anthropic ait refusé de modifier ses garanties en matière d’IA pour une utilisation par le gouvernement américain.
Anthropic a déclaré que sa désignation de « risque pour la chaîne d'approvisionnement » par le gouvernement américain fin février n'était pas juridiquement valable. Sa déclaration la plus récente de la semaine dernière établit des liens similaires, affirmant que les actions de l'administration Trump ne respectent pas les principes de transparence, d'équité et de faits.
Le bras de fer entre l’Anthropique et le gouvernement américain survient alors que ce dernier envisage une domination technologique en matière d’IA sur ses contemporains.
