Le monde doit se préparer à des modèles puissants de type Mythos, capables de détecter de nouvelles failles de sécurité dans tous les systèmes, a déclaré lundi le cofondateur d'Anthropic, Paul Clark, lors de l'événement Semafor World Economy.
Le très controversé Claude Mythos d'Anthropic n'est pas un modèle « spécial » et il y aura d'autres modèles similaires dans les mois à venir, le monde doit donc se préparer. C’est le point de vue du co-fondateur et responsable politique d’Anthropic, Jack Clark, lors de son discours hier lors de l’événement Semafor World Economy à Washington DC.
« Nous sommes bien sûr reconnaissants de notre succès et de nos clients, mais il ne s'agit pas d'un modèle spécial », a déclaré Clark.
« Il y aura d'autres systèmes comme celui-ci dans quelques mois provenant d'autres sociétés, puis un an ou un an et demi plus tard, il y aura des modèles à poids ouvert en provenance de Chine qui auront ces capacités. Le monde va donc devoir se préparer à des systèmes plus puissants qui existeront en son sein. »
Claude Mythos a suscité l'inquiétude de l'ensemble de l'industrie lorsqu'il a été révélé que le nouveau modèle d'IA d'Anthropic avait découvert des failles de sécurité jusqu'alors inconnues dans tous les principaux navigateurs Web et systèmes d'exploitation. Clark a admis que cela avait également alarmé Anthropic lorsque sa portée est devenue apparente.
Cela a conduit au lancement du « Projet Glasswing », permettant aux entreprises partenaires d'accéder au Mythe inédit d'Anthropic, qui, selon le géant de l'IA, a déjà découvert des milliers de vulnérabilités de haute gravité, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs Web. Mythos a été lancé en avant-première le 7 avril.
Mythos est nettement plus capable de générer des exploits. Dans ses recherches, la société a noté que Mythos avait développé des exploits de test 181 fois sur plusieurs centaines de tentatives, tandis que l'Opus 4.6 avait un taux de réussite proche de 0%.
« Nous n'avons pas explicitement formé Mythos Preview pour qu'il dispose de ces capacités. Elles sont plutôt apparues comme une conséquence en aval des améliorations générales du code, du raisonnement et de l'autonomie », a noté la société.
Plutôt que de publier le modèle, la société rassemble des entreprises de premier plan, notamment Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JP Morgan Chase, la Linux Foundation, Microsoft, Nvidia et Palo Alto Networks, leur permettant d'accéder à l'aperçu de Mythos pour renforcer leurs cyberdéfenses.
La société a étendu l'accès à Mythos à un groupe de plus de 40 organisations qui construisent ou maintiennent des infrastructures logicielles critiques, et Clark a déclaré qu'elle prévoyait d'élargir ce groupe dans les prochains jours. Anthropic a également promis de partager les enseignements du projet Glasswing au profit de l'ensemble de l'industrie.
Lorsqu'on lui a demandé si Anthropic vendrait ou lancerait le nouveau modèle, Clark a répondu qu'aucune décision n'avait encore été prise mais que « à terme, des modèles dotés de ce genre de capacités seront dans le monde – que Mythos y parvienne ou non. Nous ne le savons pas encore. Nous sommes en train d'élargir l'accès via Glasswing et de voir ce que nous pouvons apprendre. «
Il s’agit d’un avertissement sévère pour tous les défenseurs de la cybersécurité et les organisations en général. Le prochain « Mythe » pourrait ne pas être publié de manière aussi responsable.
