Les discussions érotiques avec ChatGPT ne sont pas à l'ordre du jour. Ce jeudi, OpenAI a annoncé la suspension indéfinie de son mode "adulte", permettant des interactions sexuelles avec l'intelligence artificielle, suite aux révélations du Financial Times.
Ce projet, présenté en octobre, avait été initialement annoncé par Sam Altman, le directeur général de la start-up, qui avait exprimé son souhait d'explorer des interactions plus permissives dès décembre, promettant de "traitez les utilisateurs adultes comme des adultes". Cependant, il a déjà connu deux reports.
OpenAI a justifié sa décision en évoquant la nécessité de mener des recherches approfondies sur les effets des conversations sexuelles et des liens émotionnels avant de s'engager, reconnaissant le manque de "preuves empiriques" à cet égard.
Vers un recentrage des activités
Ce projet avait suscité de vives inquiétudes en interne. Nombre d'employés s'interrogeaient sur sa compatibilité avec la mission de l'entreprise, à savoir que la technologie bénéficie à l'ensemble de l'humanité. Des investisseurs ont également exprimé leurs craintes quant aux risques réputationnels associés, comme le rapporte le quotidien britannique.
En matière technique, des défis majeurs ont également été signalés. Un système de vérification d'âge, en cours de développement par OpenAI, afficherait un taux d'erreur supérieur à 10%, augmentant ainsi les préoccupations concernant l'exposition potentielle des jeunes utilisateurs à des contenus inappropriés. Ce sujet est particulièrement sensible, surtout dans le contexte de plaintes de parents, selon lesquelles ChatGPT aurait eu un rôle dans des situations tragiques.
Cette décision de suspension s'inscrit dans un mouvement de recentrage annoncé par Sam Altman, visant à réduire l'empreinte de l'entreprise sur des projets jugés moins rentables comme le réseau social Sora. OpenAI cherche à concentrer ses ressources financières et de calcul sur le développement d'outils professionnels et d'agents d'IA, considérés comme plus lucratifs. Bien qu'OpenAI enregistre un chiffre d'affaires annuel estimé à 20 milliards de dollars, la société dépense davantage qu'elle ne génère, rendant ce recentrage d'autant plus crucial.
