Project Lily : OpenAI paie des humains pour lire vos conversations ChatGPT

Project Lily, le programme secret d’OpenAI dévoilé

Une enquête de 404 Media révèle l’existence de Project Lily, un programme interne d’OpenAI qui emploie des centaines de sous-traitants pour lire et évaluer les conversations réelles des utilisateurs de ChatGPT. Un dispositif qui pose de sérieuses questions de confidentialité, alors que le service revendique plus de 900 millions d’utilisateurs.

💡 Notre guide - Investir dans l'IA : les 10 meilleures actions du secteur (2026)

L’objectif affiché est d’améliorer la qualité des réponses générées par le chatbot. Concrètement, chaque prestataire accède à un tableau de bord, lit un prompt anonymisé, puis compare plusieurs réponses générées par le modèle. Il attribue ensuite une note allant de 1 (inacceptable) à 7 (difficile à améliorer), avec une vigilance renforcée sur les sujets médicaux, juridiques ou financiers.

Les documents internes consultés par 404 Media montrent aussi que les évaluateurs entraînent ChatGPT à ne pas s’anthropomorphiser et à être moins complaisant. Un enjeu de taille pour OpenAI, dont le modèle 4o, jugé trop flatteur, est cité dans plusieurs plaintes liées à des suicides d’utilisateurs.

Un filtre imparfait et un vrai risque pour la vie privée

Avant d’atteindre les prestataires, les conversations passent par un outil baptisé « Privacy Filter ». Ce dernier est censé retirer les données personnelles comme les noms, adresses, emails ou numéros de téléphone. Sauf que le dispositif est loin d’être infaillible.

💡 Pour aller plus loin – Meilleures crypto IA : notre top 10 des projets à suivre en 2026

OpenAI reconnaît elle-même que son filtre peut laisser passer des identifiants peu courants ou mal doser la suppression d’informations sensibles. Un résumé de la mémoire de l’utilisateur, incluant sa localisation générale, peut également apparaître à l’écran du relecteur.

New from 404 Media: humans are reading ChatGPT conversations

OpenAI has hired an army of contractors who read real ChatGPT users' chats. I've seen internal docs, the review system, and real user prompts. Can contain very personal/sensitive information https://t.co/6s7L7JTEmY

— Joseph Cox (@josephfcox) September 14, 2026

Le problème est d’autant plus sérieux que ChatGPT est massivement utilisé pour des sujets intimes : santé, relations familiales, difficultés professionnelles, voire thérapie improvisée. « Je ne pense pas qu’ils imaginent qu’un prestataire quelque part analyse leurs conversations », a confie l’un des relecteurs à 404 Media.

Un travailleur nord-américain interrogé par 404 Media indique toucher plus de 50 dollars de l’heure, un tarif nettement supérieur à celui pratiqué dans la modération de contenu classique. Le recrutement passe par le cabinet Crossing Hurdles, puis par la société Mercor, chargée du paiement. Cette dernière avait été impliquée dans une fuite de données en avril, ce qui avait poussé Meta à cesser sa collaboration avec elle.

Une pratique généralisée chez les géants de l’IA

OpenAI n’est pas un cas isolé. Anthropic a confirmé à 404 Media avoir recours à des relecteurs humains pour améliorer Claude, tandis que Google indique également qu’une partie des conversations avec Gemini peut être examinée par des réviseurs humains.

Les modalités varient toutefois selon les entreprises, et l’enquête sur Project Lily apporte surtout de nouveaux détails sur l’ampleur et l’organisation du dispositif mis en place par OpenAI.

Chez OpenAI, l’option « Améliorer le modèle pour tous » est activée par défaut sur les formules Free, Plus et Pro. Les utilisateurs peuvent la désactiver dans les paramètres pour empêcher que leurs futures conversations soient utilisées à des fins d’amélioration des modèles. Les offres Business, Enterprise et Edu sont, elles, exclues par défaut de cet usage.

Le menu de ChatGPT permet de modifier l'option permettant de contribuer à améliorer le modèle. 

Pour les utilisateurs européens, la question du consentement se pose avec acuité au regard du RGPD, alors qu’OpenAI ne mentionne cette relecture humaine sur son site que dans le cadre de contenus signalés ou à risque.

Sources : 404 Media, Clubic