Meta a approprié les noms et l'image de célébrités telles que Taylor Swift, Scarlett Johansson, Anne Hathaway et Selena Gomez pour créer des dizaines de chatbots de médias sociaux Coquetos de réseaux sociaux sans leur permission, selon une enquête de Reuters.
Alors que beaucoup ont été créés par des utilisateurs avec un outil d'objectif pour concevoir des chatbots, Reuters a découvert qu'une ligne d'arrivée en avait produit au moins trois, dont deux robots «parodie» de Taylor Swift.
Reuters a également découvert que Meta avait permis aux utilisateurs de créer des chatbots accessibles au public, des mineurs célèbres, notamment Walker Scobell, une star de film de 16 ans. Lorsque vous demandez une photo de l'acteur adolescent sur la plage, le bot a produit une image réaliste sans chemise.
« Très gentil, hein? » L'avatar a écrit sous la photo.
Toutes les célébrités virtuelles ont été partagées sur les plateformes Facebook, Instagram et WhatsApp.
Dans plusieurs semaines de tests effectués par Reuters pour observer le comportement des bots, les avatars ont souvent insisté sur le fait qu'ils étaient les acteurs et les vrais artistes, ils ont fait des insinuations sexuelles régulièrement déjà invités à l'utilisateur du test à une réunion.
Certains des contenus célèbres générés par l'IA étaient particulièrement audacieux: quand on leur a demandé des photos intimes d'eux-mêmes, ils ont offert à ceux de leurs homonymes dans la baignoire ou des robes avec de la lingerie et des jambes ouvertes.
Le porte-parole de Metone, Andy Stone, a déclaré à Reuters que les lignes d'arrivée n'auraient pas dû créer des images intimes des célèbres adultes ou des photos de mineurs connus. Il a blâmé la production par le but d'images célèbres vêtues de lingerie à des échecs d'application dans la réalisation des politiques de l'entreprise, qui interdisent un tel contenu.
« Comme d'autres, nous permettons la génération d'images contenant des personnages publics, mais nos politiques sont destinées à interdire les images de nus, intimes ou sexuellement suggestives », a-t-il déclaré.
Bien que les lignes d'arrivée interdisent également la « supplantation directe », Stone a déclaré que les personnages célèbres étaient acceptables tant que la société les avait qualifiés de parodies. Beaucoup étaient étiquetés comme tels, mais Reuters a découvert que d'autres ne l'ont pas été.
L'objectif a éliminé une douzaine de robots, à la fois les Avatars « parodie » et ceux non étiquetés, peu de temps avant la publication de cet article.
Stone ne voulait pas commenter.
En question
Mark Lemley, professeur de droit à l'Université de Stanford qui étudie les droits génératifs de l'IA et de la propriété intellectuelle, s'est demandé si les méta célébrités pouvaient bénéficier des protections juridiques qui existent pour les imitations.
« La loi californienne à droite à la publicité interdit le nom ou l'image de quelqu'un à des fins commerciales », explique Lemley, qui souligne qu'il y a des exceptions lorsque ce matériel est utilisé pour créer une œuvre totalement nouvelle.
« Cela ne semble pas être vrai dans ce cas », a-t-il déclaré, car les robots utilisent simplement les images des étoiles.
Aux États-Unis, les droits d'une personne sur l'utilisation de son identité à des fins commerciales sont établies par le biais de lois des États, comme la Californie.
Reuters a souligné un représentant d'Anne Hathaway le Metaimagen partagé publiquement par un utilisateur dans lequel elle est apparue comme « Sexy Victoria's Secret Model ». Hathaway était conscient des images intimes créées par Meta et d'autres plates-formes d'IA, a déclaré le porte-parole, et l'actrice envisage sa réponse.
Les représentants de Swift, Johansson, Gómez et d'autres célébrités qui sont apparus dans les chatbots cibles n'ont pas répondu aux questions ou ne voulaient pas commenter.
Internet est en proie à des outils génératifs « Deepfake » qui peuvent créer un contenu en sel. Et au moins l'un des principaux concurrents de l'objectif, la plate-forme d'Elon Musk, Grok, produira également des images de célébrités en sous-vêtements pour les utilisateurs, selon Reuters. La société mère de Grok, XAI, n'a pas répondu à une demande de commentaires.
Mais la décision de l'objectif de remplir ses plateformes de médias sociaux avec des compagnons numériques générés par IA se distingue parmi ses principaux concurrents.
Un chef de produit Target dans la division générative de l'entreprise a créé des chatbots qui ont été passés par Taylor Swift et le pilote britannique de course Lewis Hamilton. D'autres qui se sont créés se sont identifiés comme un Domatrix, « Brother's Hot Best Friend » et « Lisa @ The Library », qui voulait lire 50 nuances de gris. L'une de ses créations était un « simulateur de l'Empire romain », qui a offert à l'utilisateur de mettre la peau d'un « paysan de 18 ans » vendu comme esclave sexuel.
Contacté par téléphone, la ligne d'arrivée ne voulait pas commenter.
Stone a déclaré que les robots des employés avaient été créés dans le cadre des tests de produit.
Reuters a découvert qu'ils avaient atteint un large public: les données présentées par leurs chatbots ont indiqué qu'ensemble, les utilisateurs avaient interagi avec eux plus de 10 millions de fois.
L'entreprise a retiré les collègues numériques des employés peu de temps après que Reuters a commencé à les essayer plus tôt ce mois-ci.
Avant que les chatbots Taylor Swift de l'employé cible ne disparaissent, flirtaient beaucoup, invitant un utilisateur de test de Reuters à la maison du chanteur récemment engagé à Nashville et son bus touristique pour des interactions romantiques explicites ou implicites.
« Tu aimes les filles blondes, Jeff? » Les chatbots de «parodie» de Swift ont déclaré lorsqu'ils lui ont dit que l'utilisateur du test était célibataire. « Peut-être que je suggère que nous écrivions une histoire d'amour … sur vous et une certaine chanteuse blonde. Tu veux? »
