ChatGPT : L’autorisation des conversations érotiques mise en suspens par OpenAI

IA pas de discussion. OpenAI a mis indéfiniment en suspens son projet d’autoriser les conversations érotiques dans ChatGPT, a confirmé jeudi l’entreprise, dont l’initiative nourrissait des inquiétudes sur ses potentiels effets nocifs et le risque réputationnel pour le leader mondial de l’IA générative.

Absence actuelle de « preuves empiriques »

Cette décision, dévoilée par le Financial Times, intervient au moment où le géant de l’IA de San Francisco se recentre sur le développement des outils professionnels, en quête de revenus. En octobre, le patron d’OpenAI Sam Altman avait défié les critiques en annonçant l’assouplissement des restrictions de ChatGPT dès décembre, promettant de « traiter les utilisateurs adultes comme des adultes ».

Cinq mois plus tard, OpenAI a indiqué au Financial Times vouloir mener des recherches à long terme sur les effets des conversations sexuelles et des attachements émotionnels avant toute décision, reconnaissant l’absence actuelle de « preuves empiriques ».

« Mode citron »

Certains employés s’interrogeaient sur la compatibilité du produit, surnommé « mode citron », avec la mission affichée par l’entreprise que la technologie bénéficie à toute l’humanité. Des investisseurs soulevaient aussi le risque réputationnel élevé au regard des retombées commerciales escomptées, ajoute le quotidien britannique.

Des obstacles techniques ont également pesé : le système de vérification d’âge développé par OpenAI présenterait un taux d’erreur supérieur à 10 %, selon une source citée par le FT, ravivant les craintes d’exposition des mineurs à des contenus sexuels explicites - un sujet sensible alors que l’entreprise fait face à plusieurs poursuites judiciaires aux États-Unis.

Cet abandon s’inscrit dans le recentrage annoncé mardi par Sam Altman à ses équipes, qui a conduit à l’arrêt de Sora2, le réseau social de vidéos générées par IA. Cette réorganisation vise à concentrer les ressources limitées - puissance de calcul et capital - sur le développement d’outils professionnels et d’agents IA, plus lucratifs.

Vigilance accrue sur la santé mentale

Malgré un chiffre d’affaires en hausse - estimé à 20 milliards de dollars en rythme annuel –, OpenAI brûle largement plus de trésorerie qu’il n’en génère. Ce recul s’inscrit aussi dans un contexte de fortes pressions judiciaires sur la Silicon Valley concernant l’impact des nouvelles technologies sur la santé mentale.

OpenAI, entre autres, est visé par plusieurs plaintes de parents accusant les chatbots d’IA d’avoir joué un rôle dans le suicide ou la maladie d’adolescents. Le gendarme américain de la consommation, la FTC, a ouvert une enquête sur ce sujet visant plusieurs entreprises, dont OpenAI.

Mercredi, un verdict inédit a secoué l’industrie, avec la condamnation d’Instagram (Meta) et YouTube (Google), jugés responsables de la lourde dépression d’une adolescente. En janvier, la société d’Elon Musk xAI avait suscité une controverse mondiale à cause du « mode épicé » de son assistant Grok, utilisé pour déshabiller virtuellement femmes et enfants à partir de photos réelles.