Una investigación de 404 Media revela la existencia del Project Lily, un programa interno de OpenAI en el que cientos de subcontratistas revisan conversaciones reales de usuarios de ChatGPT con el fin de mejorar el modelo. A pesar de contar con un sistema de anonimización, es posible que todavía aparezcan datos sensibles, lo que plantea nuevos interrogantes sobre la privacidad del servicio.
Ilustración generada con OpenAI
Project Lily, el programa secreto de OpenAI al descubierto
Una investigación de 404 Media revela la existencia del Project Lily, un programa interno de OpenAI que emplea a cientos de subcontratistas para leer y evaluar conversaciones reales de los usuarios de ChatGPT. Un dispositivo que plantea serias dudas sobre la privacidad, en un momento en que el servicio cuenta con más de 900 millones de usuarios.
💡 Nuestra guía - Invertir en IA: las 10 mejores acciones del sector (2026)
El objetivo declarado es mejorar la calidad de las respuestas generadas por el chatbot. Concretamente, cada contratista accede a un panel de control, lee un "prompt" anonimizado y compara varias respuestas generadas por el modelo. A continuación, asigna una puntuación del 1 (inaceptable) al 7 (difícil de mejorar), prestando especial atención a temas médicos, jurídicos o financieros.
Los documentos internos consultados por 404 Media también muestran que los evaluadores entrenan a ChatGPT para que no se antropomorfice y sea menos complaciente. Un desafío importante para OpenAI, cuyo modelo 4o, considerado a menudo demasiado complaciente, ha sido mencionado en varias demandas relacionadas con suicidios de usuarios.
3% de interés sobre tu efectivo + 1% de cashback PEA, cuenta de valores y Livret A disponibles en Trade RepublicCondición: Para nuevos clientes hasta 50.000 €Enlace de afiliado – Publicidad
Un filtro imperfecto y un riesgo real para la privacidad
Antes de llegar a los contratistas, las conversaciones pasan por una herramienta denominada "Privacy Filter". Se supone que esta debe eliminar datos personales como nombres, direcciones, correos electrónicos o números de teléfono. Sin embargo, el dispositivo dista mucho de ser infalible.
💡 Para profundizar – Mejores cripto IA: nuestro top 10 de proyectos a seguir en 2026
La propia OpenAI reconoce que su filtro puede dejar pasar identificadores poco comunes o fallar en la eliminación de información sensible. Un resumen de la memoria del usuario, que incluya su ubicación general, también puede aparecer en la pantalla del revisor.
New from 404 Media: humans are reading ChatGPT conversations
OpenAI has hired an army of contractors who read real ChatGPT users' chats. I've seen internal docs, the review system, and real user prompts. Can contain very personal/sensitive information https://t.co/6s7L7JTEmY
— Joseph Cox (@josephfcox) 14 de septiembre de 2026
El problema es aún más grave si tenemos en cuenta que ChatGPT se utiliza masivamente para temas íntimos: salud, relaciones familiares, dificultades profesionales e incluso como terapia improvisada. "No creo que imaginen que un contratista en alguna parte esté analizando sus conversaciones", confesó uno de los revisores a 404 Media.
Un trabajador norteamericano entrevistado por 404 Media indica que gana más de 50 dólares por hora, una tarifa significativamente superior a la habitual en la moderación de contenido estándar. La contratación se realiza a través de la consultora Crossing Hurdles y, posteriormente, mediante la empresa Mercor, encargada del pago. Esta última estuvo implicada en una filtración de datos en abril, lo que llevó a Meta a cesar su colaboración con ellos.
Una práctica generalizada entre los gigantes de la IA
OpenAI no es un caso aislado. Anthropic confirmó a 404 Media que recurre a revisores humanos para mejorar Claude, mientras que Google también señala que parte de las conversaciones con Gemini pueden ser examinadas por revisores humanos.
No obstante, los métodos varían según la empresa, y la investigación sobre el Project Lily aporta, sobre todo, nuevos detalles sobre el alcance y la organización del sistema implementado por OpenAI.
En OpenAI, la opción "Mejorar el modelo para todos" está activada por defecto en las versiones Free, Plus y Pro. Los usuarios pueden desactivarla en los ajustes para evitar que sus futuras conversaciones se utilicen para mejorar los modelos. Las ofertas Business, Enterprise y Edu quedan, por defecto, excluidas de este uso.
El menú de ChatGPT permite modificar la opción para contribuir a la mejora del modelo.
Para los usuarios europeos, la cuestión del consentimiento se plantea con especial urgencia frente al RGPD, ya que OpenAI solo menciona esta revisión humana en su sitio web en el contexto de contenidos denunciados o de riesgo.
3% de interés sobre tu efectivo + 1% de cashback PEA, cuenta de valores y Livret A disponibles en Trade RepublicCondición: Para nuevos clientes hasta 50.000 €Enlace de afiliado – Publicidad