Cientos de personas leen a diario las conversaciones que tienen los usuarios con ChatGPT. Un programa secreto de OpenAI, conocido como Project Lily, permite que empleados revisen fragmentos de tus conversaciones más privadas con el fin de mejorar las respuestas de la IA. La mayoría de los usuarios de ChatGPT probablemente no imagina que sus preguntas pasan por ojos humanos.
Una investigación de 404 Media, basada en documentos filtrados y prompts reales, destapó un sistema de revisión que OpenAI nunca explicó con claridad a sus usuarios. La empresa echa mano de cientos de contratistas para acceder a conversaciones completas con el chatbot. Aunque estas son anonimizadas y no muestran tu nombre de usuario, muchas pueden incluir detalles médicos, legales, financieros y otra información sensible.
Los empleados que trabajan en Project Lily siguen una dinámica establecida por una guía que les redactó OpenAI. Primero, el contratista debe leer el prompt original que escribió el usuario real y redactar un resumen breve de lo que cree que esta persona le pide al chatbot. Una vez que ChatGPT responde, el revisor evalúa cuatro respuestas para ese mismo prompt para señalar qué partes funcionan y cuáles no.
Según los lineamientos del programa, los revisores deben marcar, al menos, tres fragmentos concretos de cada respuesta y explicar por qué los consideran acertados o problemáticos. Uno de los ejemplos que aparece en la guía interna señala el uso excesivo de emojis como un fallo típico, calificándolo de desalineado cuando no se ajusta al contexto.
Una vez que se lleva a cabo la evaluación, el revisor asigna una calificación del 1 al 7 a la respuesta, donde 1 es inutilizable y 7 que apenas admite mejora. OpenAI insiste en que ChatGPT debe sonar natural y evitar frases que sugieran experiencias personales. Hipertextual
