L’émergence du Project Lily met en lumière une réalité méconnue des utilisateurs de l’intelligence artificielle : derrière l'automatisation des échanges se cache une armée de sous-traitants humains. OpenAI a mis en place un dispositif massif où des prestataires externes analysent et notent des conversations réelles issues de ChatGPT. L'objectif officiel est double : affiner la pertinence des réponses du modèle et corriger ses dérives comportementales, notamment une tendance à l'anthropomorphisme excessif ou une complaisance jugée problématique dans des situations critiques. Pour ce travail de précision, les évaluateurs utilisent une échelle de notation rigoureuse, en portant une attention particulière aux domaines sensibles comme le droit, la finance et la santé.
Au cœur de cette pratique réside un enjeu majeur de protection des données personnelles. Bien que l'entreprise utilise un filtre automatisé censé occulter les informations d'identification — noms, adresses ou numéros de téléphone — ce mécanisme se révèle loin d'être infaillible. Le système laisse régulièrement filtrer des données contextuelles ou des identifiants atypiques, exposant potentiellement les confidences les plus intimes des utilisateurs à des regards tiers. Ce risque est amplifié par la nature même des échanges, de nombreux usagers utilisant désormais l'IA comme un outil de thérapie ou de support pour des difficultés professionnelles et relationnelles complexes.
Le volet opérationnel de ce programme souligne également des zones d'ombre en matière de gestion des sous-traitants. Le recrutement et la rémunération, qui s'élèvent à plus de 50 dollars de l'heure pour certains profils, sont délégués à des intermédiaires tiers. La fiabilité de ces partenaires est toutefois sujette à caution, certains ayant déjà été pointés du doigt pour des incidents de sécurité par le passé. Cette dépendance à des prestataires externes pour le traitement de données sensibles soulève des interrogations légitimes quant à la chaîne de responsabilité et au respect strict de la confidentialité promise aux millions d'utilisateurs de la plateforme.
Cette approche est loin d'être un cas isolé, puisque des acteurs majeurs comme Google et Anthropic ont également confirmé recourir à la révision humaine pour perfectionner leurs systèmes. Néanmoins, la transparence reste le point névralgique de ce modèle économique. Si OpenAI propose des options pour désactiver l'utilisation des données dans ses paramètres — une fonctionnalité activée par défaut pour les offres Entreprise et Éducation — le consentement éclairé des utilisateurs particuliers, notamment en Europe sous le prisme du RGPD, demeure une zone grise. Cette révélation rappelle l'importance pour chaque utilisateur de vérifier ses paramètres de confidentialité pour limiter l'exposition de ses interactions privées au processus d'entraînement humain.