OpenAI a fermé son générateur vidéo AI Sora quelques jours plus tôt.
Les projets de ChatGPT érotique seraient suspendus « indéfiniment », alors qu'OpenAI s'efforce de rediriger l'attention vers un marché d'entreprise repris par Anthropic.
Le lancement du « mode adulte » de ChatGPT avait déjà été retardé en raison de discussions internes sur la sécurité et des inquiétudes du personnel et des investisseurs concernant les effets du contenu sexualisé de l'IA, a rapporté le Financial Times.
OpenAI a déclaré à la publication que le modèle érotique était en attente sans calendrier pour une version future, ajoutant qu'il souhaitait mener des recherches à long terme sur les effets des discussions sexuelles dans le cadre du développement du produit.
Au moment de l'annonce du « mode adulte » en octobre dernier, le PDG Sam Altman avait déclaré qu'un ChatGPT « restrictif » était « moins agréable » pour ses utilisateurs, et qu'il souhaitait « traiter les utilisateurs adultes comme des adultes ».
Bien que l'entreprise ait cherché à assouplir les restrictions tout en renforçant progressivement les garanties, des sources ont déclaré au Financial Times qu'OpenAI avait des difficultés à supprimer les comportements sexuels illégaux des ensembles de données à contenu réservé aux adultes.
Un certain nombre de poursuites allèguent également que ChatGPT porte préjudice à ses utilisateurs, dont une qui l'accuse d'être un « coach suicide ». OpenAI a commencé à déployer la prédiction de l'âge sur ses chatbots plus tôt cette année.
Plus tôt cette semaine, Meta a perdu un procès historique en matière de sécurité des enfants, qui a conclu que les plateformes de l'entreprise permettaient l'exploitation sexuelle.
La nouvelle de la mise en attente du modèle érotique survient quelques jours seulement après qu'OpenAI a fermé son controversé générateur de vidéo AI Sora, qui a été largement critiqué pour violation du droit d'auteur par les artistes et les éditeurs.
Bien qu’OpenAI soit un poids lourd du secteur de l’IA, il fait face à une pression croissante de la part de ses concurrents, le plus important étant Anthropic, qui capte désormais la majorité des nouveaux arrivants dans les entreprises.
Pour rivaliser, OpenAI construit une nouvelle « superapplication » de bureau en fusionnant ChatGPT, Codex – l'outil de codage de l'entreprise – et Atlas, son navigateur alimenté par ChatGPT. Il a également débauché le fondateur des projets viraux OpenClaw pour développer les agents personnels de « nouvelle génération ».
Thomas Husson, vice-président et analyste principal de Forrester, a noté quelques jours plus tôt qu'OpenAI avait probablement décidé de minimiser les risques associés aux applications sociales expérimentales afin de donner la priorité aux bénéfices et aux outils d'entreprise, alors qu'elle prévoit son introduction en bourse cette année.
Dans le même temps, la société lève 10 milliards de dollars supplémentaires en plus des 110 milliards de dollars levés le mois dernier.
