Les modèles lancés à compter du 2 août prendront en charge le marquage de contenu lisible par machine.
Les nouveaux modèles d'Anthropic commenceront à filigraner le contenu dans l'UE, à mesure que les obligations strictes de la législation historique du bloc sur l'IA commenceront à entrer en vigueur.
De nouvelles règles de transparence en vertu de la loi européenne sur l'IA sont entrées en vigueur plus tôt ce mois-ci et exigent que certains systèmes d'IA indiquent aux utilisateurs quand ils interagissent avec l'IA et comment le contenu qu'ils consomment est généré ou modifié par celle-ci.
Le créateur de Claude est l'un des quelque 200 signataires du Code de bonnes pratiques sur la transparence du contenu généré par l'IA, un outil volontaire visant à aider les entreprises à se conformer à ces lois radicales. Plusieurs grands fournisseurs d'IA – dont OpenAI, le français Mistral, Meta et Microsoft – sont également signataires.
Anthropic a déclaré que les modèles lancés à partir du 2 août prendront en charge le marquage de contenu lisible par machine, ce qui signifie que les fichiers générés par son IA incluront des métadonnées de provenance signées numériquement telles que des filigranes intégrés sur le texte, conformément aux normes de la Coalition pour la provenance et l'authenticité du contenu (C2PA).
Les filigranes n'apparaîtront que lorsque les modèles Claude pris en charge seront accessibles via les partenaires cloud Amazon Web Services, Google Cloud ou Microsoft Foundry, a déclaré Anthropic. La société travaille également à l’ajout de fonctionnalités de filigrane à ses anciens modèles.
« Le filigrane sera appliqué au niveau du modèle, ce qui signifie qu'il sera présent quel que soit le produit Claude ou la surface d'où provient le texte », a expliqué Anthropic. « Si une étiquette de métadonnées signée est présente, elle signale qu'un fichier a été traité par Claude et permet de détecter si le fichier a été falsifié. »
L'étiquetage par l'IA est apparu comme un moyen permettant aux utilisateurs de détecter un contenu artificiellement modifié à mesure que la technologie progresse pour produire des résultats presque réalistes.
Le modèle de génération d'images d'OpenAI, Sora, aujourd'hui disparu, par exemple, était équipé de mécanismes C2PA, tout comme d'autres grandes plateformes telles que TikTok et YouTube.
La Chine, quant à elle, a adopté l’année dernière une nouvelle loi qui oblige les sociétés de médias sociaux du pays à étiqueter tout le contenu généré par l’IA, y compris le texte, les images, la vidéo et l’audio.
Malgré ces mesures, les contenus créés ou modifiés à l’aide de l’IA passent de moins en moins inaperçus.
Anthropic a déclaré qu'il « fonctionnait » pour permettre aux utilisateurs et à d'autres tiers de détecter les filigranes intégrés et les métadonnées de provenance de Claude, mais n'a pas précisé comment.
Dans le même temps, la société a reconnu plusieurs pièges liés au marquage du contenu. Il a expliqué que le contenu généré par Claude ne peut pas porter de filigrane si le texte a été fortement modifié, paraphrasé ou traduit ; si le passage généré est trop petit ; ou si les métadonnées d'un fichier ont été supprimées de force via une conversion ou des captures d'écran.
Parfois, le filigrane du modèle peut apparaître sur le contenu généré par l'homme s'il a été traité par Claude pour être lu ou résumé, a déclaré Anthropic.
