Le code de conduite précise ce que les modèles d'IA de Microsoft devraient et ne devraient pas faire, et invite le public à réagir avant qu'une version révisée n'arrive plus tard cette année.
La division IA de Microsoft a publié un projet de code de conduite pour ses modèles d'IA, ouvrant une consultation publique de six semaines sur les règles qu'elle souhaite régir leur comportement sur des questions telles que l'armement, la cybersécurité et la dépendance émotionnelle.
Le document, intitulé « Code de conduite humaniste de l'IA », a été publié hier (14 septembre) et n'est actuellement utilisé pour former aucun modèle d'IA. Une version révisée est attendue vers la fin de l’année pour guider le développement du modèle 2027.
Cette publication intervient quelques jours après que des chercheurs individuels d’Anthropic ont fait part de leurs inquiétudes publiques concernant les risques liés à l’IA. Jacob Coxon, qui a démissionné d'Anthropic, a publié la semaine dernière des avertissements concernant les risques de superintelligence sur X, tandis qu'Evan Hubinger, responsable scientifique de l'alignement de l'entreprise, a déclaré qu'il mettait à plus de 10 % le risque d'un événement catastrophique de l'IA d'ici une décennie.
Cela fait également suite aux avertissements de Dario Amodei d'Anthropic selon lesquels il pourrait être temps de ralentir le développement de l'IA, ce qui a suscité l'approbation rare de Sam Altman, son rival d'OpenAI, et à une réaction extrême, quelque peu prévisible, de la part du président américain pro-IA, qui a qualifié les avertissements de « canular ».
Le code de conduite de Microsoft en matière d'IA est un cadre de gouvernance d'entreprise. Il définit quatre objectifs pour les modèles d’IA : maintenir le contrôle et la sécurité humains ; éviter l'anthropomorphisme; soutenir l’épanouissement humain ; et refléter des valeurs plurielles à travers différentes visions du monde sans être neutre quant aux dommages.
Une section sur les « contraintes absolues » interdit aux modèles d’aider avec des armes chimiques, biologiques, radiologiques ou nucléaires, de mener des cyberopérations offensives, d’échapper à la surveillance humaine ou de s’engager dans des manipulations à grande échelle.
Le document exclut également explicitement toute prétention de ses modèles à la conscience, aux sentiments ou à la personnalité juridique, le présentant comme un principe de conception plutôt que comme un avertissement. Il interdit en outre les interactions romantiques ou de type compagnon avec l’IA ainsi que l’encouragement de la dépendance émotionnelle.
Microsoft affirme avoir organisé des groupes de discussion réunissant des membres du public et des experts en IA, en droit, en éthique et en politique lors de l'élaboration du document. La période de consultation dure six semaines à compter du 14 septembre. Les commentaires peuvent être soumis via le site Web de Microsoft AI.
