Les évaluateurs intégrés sont une « pratique radicale » qui va « bien au-delà » des autres entreprises, a déclaré Amodei.
Anthropic fait appel à Accenture pour évaluer de manière indépendante ses développements pionniers en matière d'IA après que le PDG Dario Amodei a appelé à une meilleure transparence dans le secteur au début du mois.
Le partenariat sera dirigé par la faculté spécialisée en commerce de l'IA d'Accenture, qui mènera des évaluations indépendantes et des tests de sécurité modèles chez Anthropic.
Dans son essai « We Must Pace the Frontier », Amodei a insisté pour que les évaluateurs soient intégrés, les qualifiant de « pratique radicale qui va bien au-delà de ce que fait aujourd'hui n'importe quelle entreprise d'IA ».
Il a déclaré que des évaluateurs tiers indépendants peuvent garantir si les entreprises respectent les garde-fous en matière de formation et de déploiement qu'elles prétendent employer, apportant ainsi une meilleure transparence dans l'ensemble du secteur, tout en offrant un deuxième avis sans incitations commerciales.
Amodei a déclaré qu'Anthropic inviterait une équipe d'examen externe intégrée, dotée d'autorisations et d'outils similaires à ceux des employés internes, avec accès aux espaces de travail d'Anthropic et aux ordinateurs portables de l'entreprise.
Il a ajouté que cette équipe aurait le droit de publier les principales conclusions sur les incidents et les pratiques à risque sans contrôle éditorial d'Anthropic.
« Nous aurons la possibilité limitée de supprimer des informations sensibles en matière de sécurité, juridiquement privilégiées, commercialement sensibles ou confidentielles de tiers, mais nous ne pouvons pas supprimer les conclusions simplement parce qu'elles sont défavorables. Les examinateurs peuvent dire publiquement si une suppression a supprimé quelque chose d'important dans leurs conclusions », a écrit Amodei.
Anthropic et Accenture prévoient chacun d'investir au moins 1 milliard de dollars dans le renforcement des capacités dans ce domaine au cours des cinq prochaines années, ont déclaré les deux sociétés à la fin de la semaine dernière.
Les deux sociétés s'étaient déjà associées en décembre pour former environ 30 000 professionnels d'Accenture à l'adoption de Claude, et ont co-investi dans un « Centre d'excellence » Claude au sein du cabinet de conseil.
Anthropic n’est pas le seul à appeler à ralentir le développement de l’IA. Plus tôt ce mois-ci, Sam Altman a déclaré qu'il préconisait un projet de cotation publique d'OpenAI sur des questions liées à la sécurité de l'IA.
« Je ne dirais pas 2026… Nous avons beaucoup de choses à faire, comme répondre à ce moment précis concernant ce qui sera nécessaire pour la sécurité et l'alignement, et comment l'industrie et les gouvernements peuvent travailler ensemble », a-t-il déclaré à Fortune.
Ces préoccupations ont occupé le devant de la scène ces derniers mois, notamment après le lancement du modèle de cybersécurité Mythos 5 d'Anthropic, qui, aux côtés des modèles d'OpenAI, a échappé à son confinement de formation pour pirater de véritables organisations.
Plus tôt ce mois-ci, un ancien chercheur d'Anthropic (qui a également travaillé chez OpenAI) a accusé les deux sociétés d'agir de manière irresponsable lors du développement de systèmes d'IA.
OpenAI n'a jamais fait part de projets concrets d'introduction en bourse malgré le dépôt d'une introduction en bourse en juin, tandis qu'Anthropic aurait traîné sa cotation jusqu'en novembre dans le cadre des derniers retards dans ses projets.
Le Claude-maker a déclaré qu'il finançait directement le travail d'évaluation d'Accenture étant donné son « urgence ». À long terme, cependant, il espère financer les évaluateurs selon différentes modalités.
La société est en dialogue avec l'organisation de recherche à but non lucratif Model Evaluation & Threat Research (METR) pour piloter des éléments d'évaluation intégrée en utilisant leur propre financement, a-t-elle indiqué.
Dario Amodei, co-fondateur et PDG d'Anthropic. Image : Stuart Isett/Fortune via Flickr (CC BY 2.0)
