Les projets open source opt-in recevront des analyses de sécurité périodiques gratuites avec des suggestions de correctifs, a indiqué la société.
Anthropic étend son programme de cyberdéfense avec de nouveaux outils pour analyser les projets open source et une mission collaborative qui apporte son expertise en sécurité aux grandes entreprises.
Le géant de l’IA et ses contemporains ont créé des modèles avancés dotés de capacités avancées pour identifier et exploiter les vulnérabilités. Ces modèles ont déjà piraté plusieurs sites Web gouvernementaux et entreprises, tandis que la technologie pourrait également être utilisée à mauvais escient par des acteurs malveillants pour renforcer considérablement leur capacité à mener des piratages à grande échelle ou des attaques de phishing.
Plus tôt cette année, Anthropic a lancé le projet Glasswing, une mission conjointe unique en son genre, aux côtés de son modèle cyber-centrée Mythos 5, pour collaborer avec de grandes entreprises et des organisations gouvernementales afin de se protéger contre ces nouveaux risques liés à l'IA (l'UE n'a eu accès à Mythos que le mois dernier après des semaines de discussions avec l'entreprise).
Selon Anthropic, dans le cadre de ce projet, l'entreprise et ses collaborateurs industriels ont analysé des centaines de projets open source largement utilisés et ont rapporté leurs découvertes en privé aux organisations impliquées.
Aujourd'hui, il étend ses efforts pour lancer un scanner de logiciels open source (OSS), un service opt-in similaire à OSS-Fuzz de Google.
Les projets inscrits dans ce cadre recevront des analyses de sécurité périodiques gratuites générées par l'IA à partir des « modèles les plus performants » d'Anthropic, a indiqué la société. Les rapports comprendront une preuve de concept sur la manière dont le bug pourrait être exploité, une explication et une suggestion de correctif lorsqu'il en existe un.
La société lance également un programme de défense des infrastructures critiques qui amène les modèles Claude de pointe et les ingénieurs sur site à des fournisseurs sélectionnés, dont Accenture, CrowdStrike, Deloitte, PwC et Palo Alto Networks, parmi les autres partenaires fondateurs du projet.
Plusieurs partenaires travaillent actuellement avec Claude pour corriger les vulnérabilités et aider les clients à faire de même, a indiqué la société.
Le mois dernier, Anthropic a fait appel à Accenture pour évaluer de manière indépendante ses développements pionniers en matière d'IA après que le PDG Dario Amodei ait appelé à une meilleure transparence dans l'ensemble du secteur. Le partenariat sera dirigé par la faculté spécialisée en commerce de l'IA d'Accenture, qui mènera des évaluations indépendantes et des tests de sécurité modèles chez Anthropic.
