L’émergence du mythe d’Anthropic a suscité de nombreuses inquiétudes quant aux menaces potentielles que représentent celui-ci et d’autres modèles d’IA similaires.
La Banque centrale européenne (BCE) va appeler à une action plus rapide pour améliorer la sécurité informatique des organismes de prêt face à l'évolution des menaces liées à l'IA lorsqu'elle convoquera ses représentants à une réunion demain (26 mai), selon le Financial Times (FT).
« C'est quelque chose qui change la donne. Nous voulons que les banques se penchent sérieusement sur cette question. Le temps presse », a déclaré Frank Elderson, vice-président du conseil de surveillance de la BCE qui supervise les banques, au FT.
L'émergence en avril du modèle Mythos AI d'Anthropic, avec ses niveaux élevés de capacité à trouver et à exploiter les faiblesses de cybersécurité des navigateurs et des systèmes d'exploitation, a suscité de nombreuses inquiétudes quant aux menaces potentielles posées par ce modèle et d'autres modèles similaires.
« Il y a toute une série de questions sur la cybersécurité sur lesquelles nous discutons avec les banques depuis des années et qui sont toutes toujours d'actualité, mais étant donné les progrès de l'IA, elles doivent être traitées plus rapidement », a déclaré Elderson au FT.
Des banques américaines telles que JP Morgan Chase, Goldman Sachs, Citigroup, Bank of America et Morgan Stanley ont été autorisées à accéder en avant-première à Mythos et, selon le FT, la BCE espère une collaboration entre les prêteurs américains et européens sur cette question.
Bien que limitées par le manque actuel d’accès à Mythos, les banques européennes doivent encore être préparées aux menaces que celui-ci, et d’autres, pourraient représenter, a déclaré Elderson à la publication.
« Le fait que vous n'ayez pas accès à ce modèle n'est pas une excuse pour l'inaction », a-t-il déclaré. « Les acteurs malveillants pourraient bientôt avoir accès à cette technologie. »
Le mois dernier, il a été signalé qu'un groupe Discord privé avait obtenu un accès non autorisé à Mythos peu après son lancement, sans toutefois l'utiliser à des fins malveillantes.
Parallèlement, une nouvelle enquête menée auprès de professionnels de la conformité en Irlande a révélé que plus d'un tiers des participants estiment que l'IA rend plus difficile pour les institutions financières la protection des données clients et autres données sensibles, tandis que seulement 7 % estiment qu'elle a facilité la protection des données.
L'étude réalisée par le Compliance Institute, l'organisme professionnel irlandais des praticiens de la conformité, a recueilli les réponses d'environ 150 professionnels de la conformité travaillant principalement dans des organisations irlandaises de services financiers pour explorer les points de vue sur l'impact de l'IA sur la protection des données, ainsi que les mesures prises par les entreprises pour se conformer aux nouvelles règles de l'UE qui les obligent à garantir que leur personnel possède un niveau approprié de connaissances en IA.
Michael Kavanagh, PDG du Compliance Institute, a déclaré : « L'IA est de plus en plus utilisée dans les opérations quotidiennes du secteur, ce qui change la façon dont les organisations envisagent la gouvernance, la surveillance et les capacités.
« Ce que les résultats montrent réellement, c'est une période d'ajustement, au cours de laquelle les entreprises construisent et renforcent activement les cadres nécessaires pour soutenir l'utilisation sûre et efficace de ces technologies, parallèlement à leurs responsabilités réglementaires existantes. »
