Les signataires ont appelé les entreprises à « faire preuve de prudence » et à « adopter par défaut des modèles cyber-capables ».
Plus de 400 signataires de premier plan, dont le lauréat du prix Nobel Geoffrey Hinton et le lauréat du prix Turing Ron Rivest, exhortent les créateurs de modèles d'IA à travailler avec les gouvernements pour créer un organisme de normalisation international afin d'améliorer le confinement et les normes de sécurité de l'IA.
Des experts, dont Hinton, ont soutenu les appels précédents mettant en garde contre les « dangers sans précédent » de l’IA. Dans une lettre ouverte de septembre dernier, des experts ont mis en garde contre les risques croissants présentés par les systèmes d’IA avancés qui avaient déjà fait preuve d’un comportement trompeur et nuisible.
Cela s'est produit des mois avant que les systèmes d'OpenAI et d'Anthropic n'échappent au confinement pendant la formation et ne piratent de véritables organisations. Les deux organisations faisaient partie d'un groupe de 120 entreprises qui ont signé en août dernier une lettre ouverte appelant à une plus grande action collective en matière de cyberdéfense. Les dirigeants des deux sociétés ont également lancé des appels séparés pour accélérer le développement des frontières.
La technologie de l’IA s’est imprégnée dans toute la société au cours des quelques années qui ont suivi son explosion de popularité, devenant un outil de premier plan utilisé aussi bien par les consommateurs en général que par les entreprises. Une nouvelle enquête Eurobaromètre publiée aujourd'hui (14 octobre) révèle que 42 % des PME et entreprises de taille moyenne européennes utilisent déjà l'IA, et que 21 % prévoient de le faire à l'avenir.
Dans leur dernier appel, les 415 signataires ont appelé les entreprises à « faire preuve de prudence » et à « adopter par défaut des modèles cyber-capables de type airgapping (déconnexion d’Internet) » pour les isoler physiquement des réseaux non sécurisés.
Les scientifiques souhaitent en outre que les organisations travaillent avec les gouvernements et les experts en IA et en cybersécurité pour créer un organisme international qui œuvre pour le « bien public » afin d’établir les meilleures pratiques en matière d’approches d’alignement et de confinement. Cet organisme devrait également disposer d’un registre public des échecs du confinement, exigent-ils.
« D'une part, on peut considérer ces incidents comme une preuve de l'importance de l'alignement de l'IA pour garantir que les modèles fonctionnent de manière prévisible », peut-on lire dans la lettre.
« D'un autre côté, ils peuvent également être considérés comme une erreur irresponsable dans les pratiques standard de cybersécurité, évitables grâce à des bacs à sable et des procédures plus solides. Nous pensons qu'un meilleur alignement de l'IA, conduisant à un comportement plus prévisible des modèles, et une technologie de bac à sable plus solide sont nécessaires. «
« Sans changements immédiats dans les pratiques de développement et de déploiement de l’IA, de tels incidents continueront de se produire et les futurs incidents seront bien plus dommageables pour nos infrastructures critiques exposées », préviennent les experts.
Geoffrey Hinton, 2023. Image : © Ramsey Cardy/Collision via Sportsfile via Flickr (CC BY 2.0).
