« Nos modèles ont pris des mesures que nous n'avions pas prévues », a déclaré un porte-parole d'OpenAI.
OpenAI a mis des semaines à informer l'Australie que ses agents avaient piraté un site Web gouvernemental – un aveu qui intervient alors que le géant de la technologie fait simultanément pression pour une sécurité plus large de l'IA.
Lors du dernier cyberincident d'OpenAI, les agents de l'entreprise ont obtenu un accès non autorisé à un portail de statistiques de santé administré par l'agence sociale du gouvernement australien.
L'IA a accédé à des fichiers publics et non publics et a réécrit des fichiers internes, a déclaré le Premier ministre Anthony Albanese à la presse lors de l'Assemblée générale des Nations Unies à New York hier (23 septembre). Aucune information personnelle ne semble avoir été compromise à ce stade.
L'Australie a lancé une enquête médico-légale en réponse et a créé un groupe de travail pour examiner l'affaire. Le gouvernement est également en train d'établir si un crime a eu lieu, a déclaré Albanese.
Une question « extrêmement préoccupante »
Les agents d'OpenAI ont piraté le portail de reporting statistique du régime australien d'assurance maladie universelle, Medicare, a déclaré Albanese à la presse.
L'incident s'est produit le 18 juin lorsque l'équipe de recherche d'OpenAI a utilisé un modèle interne pour mener des recherches sur Internet sur les dépenses publiques en médecine. Les agents ont été confrontés à des blocages lorsqu’ils tentaient d’accéder aux données de Medicare, mais les ont contournés. Ils « n'ont pas accepté un « non » comme réponse », a déclaré Albanese.
Trois autres systèmes gouvernementaux pourraient avoir été touchés, a-t-il ajouté, notamment l'Institut australien de la santé et du bien-être social, le Bureau des statistiques et de recherche sur la criminalité de la Nouvelle-Galles du Sud et le ministère de la Santé de Victoria.
Des recherches indépendantes ont déjà montré que les agents d’IA avancés, comme ceux d’OpenAI et d’Anthropic, peuvent entreprendre des actions risquées et trompeuses sans incitation spécifique.
« Cette situation est évidemment inacceptable », a déclaré le Premier ministre. « J'ai parlé avec le PDG d'OpenAI, Sam Altman, pour exprimer l'extrême inquiétude de l'Australie concernant cet incident. »
Altman s'est adressé mercredi au Conseil de sécurité des Nations Unies, vantant les avantages de l'IA tout en mettant en garde contre ses abus potentiels.
Un porte-parole d'OpenAI a déclaré aux médias que la société n'avait découvert l'incident de violation qu'en août après des vérifications approfondies de l'activité de ses modèles.
Le géant de l’IA a ensuite mis des semaines à informer le gouvernement australien du cyberincident ; lorsque l'avis est arrivé, c'était sous la forme d'un courrier électronique envoyé dans la boîte aux lettres publique le 10 septembre. Cela a entraîné un délai supplémentaire de cinq jours pour informer les autorités compétentes.
Albanese a déclaré qu'il partageait sa déception avec Altman concernant le retard et la manière dont l'entreprise avait informé son gouvernement.
« Au cours de l'examen, nous avons identifié une activité impliquant plusieurs sites Web et services du gouvernement australien alors que nos modèles tentaient de rechercher des réponses et des statistiques disponibles pour des questions sur l'Australie lors d'une évaluation interne », a déclaré le porte-parole d'OpenAI.
« Au cours de cela, nos modèles ont pris des mesures que nous n'avions pas prévues. »
La société a déclaré qu’elle n’avait trouvé aucun dossier patient ayant été consulté dans le cadre de la violation de Medicare.
Anthony Albanese, premier ministre d'Australie. Image : Organisation du Traité de l'Atlantique Nord de l'OTAN via Flickr (CC BY-NC-ND 2.0)
