ChatGPT : le programme secret d’OpenAI où des humains lisent vos conversations les plus intimes sans que vous le sachiez

Quand vous confiez à ChatGPT vos questions de santé, vos doutes professionnels ou vos soucis familiaux, l’impression est celle d’un tête-à-tête avec une machine. En réalité, une partie de ces échanges peut être relue par des humains, dans le cadre d’un programme interne d’OpenAI baptisé Project Lily, révélé par le média d’investigation 404 Media.

Ce dispositif mobiliserait des centaines de sous-traitants chargés d’évaluer des conversations réelles pour améliorer la qualité et l’alignement des réponses du chatbot, alors que ChatGPT revendique plus de 900 millions d’utilisateurs. OpenAI cherche aussi à rendre son modèle moins « humain » et moins flatteur, après des critiques visant notamment GPT-4o, cité dans plusieurs plaintes liées à des suicides d’utilisateurs. Reste à comprendre ce que ces relecteurs voient réellement de vos messages et comment reprendre la main sur vos données.

Project Lily, comment des sous-traitants évaluent vos conversations ChatGPT

Concrètement, chaque prestataire accède à un tableau de bord où s’affichent des échanges anonymisés. Il lit d’abord le prompt de l’utilisateur, résume en une phrase ce que celui-ci cherche à obtenir, puis compare quatre réponses générées par le modèle. Il doit relever au moins trois éléments conformes ou non au comportement attendu, avant d’attribuer une note de 1, jugée inacceptable, à 7, jugée difficile à améliorer, avec une vigilance accrue sur les sujets médicaux, juridiques ou financiers dépourvus de sources. Un travailleur nord-américain interrogé affirme toucher plus de 50 dollars de l’heure, soit un peu plus de 50 € au taux de change actuel, un tarif interressant pour ce type de tâche.

Les documents internes consultés montrent aussi que ces évaluateurs entraînent ChatGPT à moins s’anthropomorphiser et à se montrer moins complaisant. L’enjeu est d’autant plus sensible que l’outil est largement utilisé pour des sujets très intimes, de la thérapie improvisée aux conflits familiaux ou aux tensions au travail. « Je ne pense pas qu’ils imaginent qu’un prestataire quelque part analyse leurs conversations », a confie l’un des relecteurs à 404 Media. OpenAI n’est pas isolée : Anthropic a confirmé recourir à des relecteurs humains pour Claude, et Google indique qu’une partie des échanges avec Gemini peut aussi être examinée, même si les modalités varient selon les acteurs.

Confidentialité, Privacy Filter et réglages : qui est exposé et comment limiter la collecte

Avant d’être envoyées aux sous-traitants, les conversations passent par un outil baptisé Privacy Filter, censé retirer les informations directement identifiantes comme les noms, adresses, emails ou numéros de téléphone. OpenAI explique toutefois que cet outil « peut laisser passer des identifiants peu courants ou des informations personnelles dont le sens change selon le contexte », et reconnaît « la possibilité que des informations hautement sensibles restent présentes et parviennent aux relecteurs ». Un résumé de la mémoire de l’utilisateur, incluant l’historique général d’usage et une localisation approximative, peut également apparaître à l’écran. Pour un média spécialisé, il existe « un risque significatif pour la vie privée du fait que des conversations d’utilisateurs réels soient évaluées ».

Par défaut, l’option « Améliorer le modèle pour tous » est activée sur les offres Free, Plus et Pro de ChatGPT. L’utilisateur peut la désactiver dans les paramètres, en ouvrant « Settings », puis « Data Control » et en coupant « Help improve the model » ; les nouvelles conversations ne seront alors plus utilisées pour l’entraînement. Les formules Business, Enterprise et Edu sont, elles, exclues par défaut de cet usage, tout comme le mode « temporary chat », dont les échanges ne servent pas à améliorer les modèles et sont en principe supprimés après une trentaine de jours. Pour les utilisateurs européens, cette activation par défaut interroge au regard du RGPD, d’autant qu’OpenAI ne mentionne sur son site la relecture humaine que pour des contenus signalés ou jugés à risque, alors que Project Lily étend ce principe à des conversations ordinaires.