OpenAI a mis indéfiniment en suspens son projet d’autoriser les conversations érotiques dans ChatGPT, a confirmé jeudi 26 mars l’entreprise, dont l’initiative nourrissait des inquiétudes sur ses potentiels effets nocifs et le risque réputationnel pour le leader mondial de l’IA générative.
Cette décision, dévoilée par le Financial Times, intervient au moment où le géant de l’IA de San Francisco se recentre sur le développement des outils professionnels, en quête de revenus. En octobre, le patron d’OpenAI Sam Altman avait défié les critiques en annonçant l’assouplissement des restrictions de ChatGPT dès décembre, promettant de « traiter les utilisateurs adultes comme des adultes ».
Cinq mois plus tard, OpenAI a indiqué au FT vouloir mener des recherches à long terme sur les effets des conversations sexuelles et des attachements émotionnels avant toute décision, reconnaissant l’absence actuelle de « preuves empiriques ». OpenAI a indiqué n’avoir « rien à ajouter ».
Certains employés s’interrogeaient sur la compatibilité du produit, surnommé « mode citron », avec la mission affichée par l’entreprise – que la technologie bénéficie à toute l’humanité. Des investisseurs soulevaient aussi le risque réputationnel élevé au regard des retombées commerciales escomptées, ajoute le quotidien britannique.
Des obstacles techniques ont également pesé : le système de vérification d’âge développé par OpenAI présenterait un taux d’erreur supérieur à 10 %, selon une source citée par le FT, ravivant les craintes d’exposition des mineurs à des contenus sexuels explicites – un sujet sensible alors que l’entreprise fait face à plusieurs poursuites judiciaires aux États-Unis.
De fortes pressions judiciaires sur la Silicon Valley
Cet abandon s’inscrit dans le recentrage annoncé mardi par Sam Altman à ses équipes, qui a conduit à l’arrêt de…
Auteur: La Croix (avec AFP)
