Les modèles d'IA surpassent désormais la plupart des humains dans la détection et l'exploitation des vulnérabilités logicielles, a déclaré Anthropic.
Un nouveau projet Anthropic verra des entreprises mondiales utiliser Claude dans le cadre de leurs systèmes de sécurité de défense.
Le « Projet Glasswing » permet aux entreprises partenaires d'accéder au Claude Mythos inédit d'Anthropic, qui, selon le géant de l'IA, a déjà découvert des milliers de vulnérabilités de haute gravité, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs Web. Mythos a été lancé en avant-première hier (7 avril).
L'aperçu Mythos d'Anthropic est nettement plus capable de générer des exploits. Dans ses recherches, la société a noté que Mythos avait développé des exploits fonctionnels 181 fois sur plusieurs centaines de tentatives, tandis qu'Opus 4.6 avait un taux de réussite proche de 0%.
« Nous n'avons pas explicitement formé Mythos Preview pour qu'il dispose de ces capacités. Elles sont plutôt apparues comme une conséquence en aval des améliorations générales du code, du raisonnement et de l'autonomie », a noté la société. Des publications, notamment le New York Times et le Register, ont mis en garde contre les conséquences négatives de modèles tels que Mythos tombant entre les mains de mauvais acteurs.
Heureusement, Anthropic a choisi de ne pas publier le modèle. Au lieu de cela, la société rassemble des entreprises de premier plan, notamment Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JP Morgan Chase, la Linux Foundation, Microsoft, Nvidia et Palo Alto Networks, leur permettant d'accéder à l'aperçu de Mythos pour renforcer leurs cyberdéfenses.
La société a étendu l'accès à Mythos à un groupe de plus de 40 organisations qui construisent ou maintiennent une infrastructure logicielle critique.
« Les modèles d'IA ont atteint un niveau de capacité de codage où ils peuvent surpasser tous les humains, sauf les plus compétents, pour trouver et exploiter les vulnérabilités logicielles », a déclaré Anthropic.
Anthropic a promis de partager les enseignements du projet Glasswing au profit de l'ensemble de l'industrie. La société s'est également engagée à hauteur de 100 millions de dollars en crédits d'utilisation pour l'aperçu de Mythos dans l'ensemble du projet, ainsi qu'à hauteur de 4 millions de dollars en dons directs à des organisations de sécurité open source.
Le créateur de Claude a également embauché Eric Boyd, président de longue date des plates-formes d'IA chez Microsoft, pour diriger l'infrastructure de l'entreprise.
