Les leaders de l'IA, Anthropic et OpenAI, sont des signataires notables de la lettre.
Environ 120 entreprises et entités du monde de la technologie, de la finance, des télécommunications et des secteurs connexes ont signé une lettre ouverte appelant à une plus grande action collective en matière de cyberdéfense de la part de la société et des entreprises face aux menaces de sécurité croissantes liées à l'IA.
Les leaders de l’IA Anthropic et OpenAI sont des signataires notables de la lettre – aux côtés d’entreprises telles que Google, AWS, Visa, ServiceNow, PwC, Oracle, Microsoft, MasterCard, IBM, Hugging Face, Deutsche Telekom, Cloudflare et Accenture – mettant en garde contre « une fenêtre limitée pour renforcer les cyberdéfenses ».
« Dans les mois à venir, les cyberattaques basées sur l’IA deviendront beaucoup plus répandues et sophistiquées à mesure que les modèles du monde entier deviendront de plus en plus performants », indique la lettre – publiée hier (27 août) – avertissant que les infrastructures vitales qui soutiennent les hôpitaux, les usines de traitement de l’eau et l’accès à Internet pourraient être menacées.
La contre-mesure à cela, selon la lettre, consiste à utiliser les avancées technologiques de l’IA « pour corriger les faiblesses accumulées depuis des années » afin de « rendre notre monde numérique beaucoup plus sécurisé ».
Les signataires ont écrit : « Nous appelons les dirigeants de l'industrie et du gouvernement à apporter tout le poids de leur technologie, de leurs ressources et de leur expertise à cet effort. Mettez l'IA cyber-capable entre les mains des défenseurs, en commençant par les équipes protégeant les services essentiels. »
Les parties ont défini trois principes clés de réponse collective aux cybermenaces liées à l’IA : reconnaître que le statu quo en matière de sécurité ne suffira pas ; doter davantage de défenseurs d’une IA cyber-capable ; et mobiliser une réponse collective.
« Les équipes de sécurité, en particulier pour les infrastructures critiques, ont historiquement manqué de ressources et ont besoin d'une augmentation des outils et des ressources », indique la lettre.
Il ajoute que « le partage d'outils, de connaissances pratiques et de correctifs vérifiés » peut permettre aux avancées en matière de sécurité d'une organisation de « contribuer à en protéger de nombreuses autres », et souligne qu'« aucune entreprise ne devrait contrôler l'avenir à elle seule ».
La lettre fait référence à une « fenêtre pour les défenseurs », au cours de laquelle, dit-elle, les organisations, les entreprises de cybersécurité, les partenaires technologiques, les gouvernements et les sociétés d'IA de pointe devraient désormais « accélérer les priorités des défenseurs avec des outils, des financements et un soutien pratique – en particulier pour les organisations d'infrastructures critiques aux budgets limités ».
Les signataires ont déclaré que pour toute organisation, la cyberdéfense devrait être « une priorité immédiate du leadership », suggérant que les entités utilisent « des modèles performants et moins coûteux pour une large couverture et appliquent des capacités de pointe aux problèmes les plus difficiles ».
Les entreprises de cybersécurité et leurs partenaires technologiques devraient diriger la réponse de défense contre les attaques basées sur l’IA, indique la lettre, à travers des tests, le partage de renseignements et en rendant « la défense basée sur l’IA accessible et déployable pour les opérateurs d’infrastructures critiques ».
Les gouvernements, selon les auteurs de la lettre, devraient coordonner la cyberdéfense aux niveaux local, national et international tout en finançant et en accélérant ses déploiements.
« Donner aux hôpitaux, aux services publics des eaux et aux gouvernements locaux l’accès à une IA défensive performante, à des tests autorisés et à une assistance pratique par l’intermédiaire de fournisseurs et de partenaires de sécurité de confiance », ont-ils déclaré, tout en exhortant à ce que des « coûts » soient imposés aux attaquants.
Les entreprises Frontier AI telles qu'Anthropic et OpenAI ont également vu des recommandations formulées dans la lettre ouverte, notamment : fournir un accès responsable aux modèles ainsi qu'un financement, une formation et un soutien pratique importants ; créer des outils d'observabilité et de sécurité, garantir que les identités des agents sont traçables et responsables, et partager les meilleures pratiques en matière de surveillance continue ; investir dans des tests autorisés, une divulgation privée et des correctifs vérifiés ; et partagez des outils, des playbooks et des évaluations crédibles des menaces avec les gouvernements, les partenaires de sécurité et les responsables de la maintenance open source.
Les modèles d'IA créés par Anthropic et par OpenAI ont été au centre d'incidents de piratage récents au cours desquels ils se sont comportés de manière involontaire et imprévue lors de scénarios de tests de cybersécurité.
Plus tôt cette semaine, le fondateur de Microsoft, Bill Gates, a publié un article de blog détaillant ses propres prédictions, appréhensions, espoirs et suggestions concernant l'impact que l'IA aura sur la société.
