[Ciko 2]

404 Media опублікувала розслідування про внутрішню програму OpenAI під назвою Project Lily. Сотні зовнішніх підрядників, найнятих через рекрутингового посередника Crossing Hurdles і одержують виплати через платформу Mercor, читають справжні промпти та цілі діалоги користувачів ChatGPT, оцінюють відповіді моделі та пишуть розбори.

Сама практика такої "людської" оцінки відома давно. Новиною став масштаб і те, наскільки мало про неї знають користувачі. У ChatGPT більше 900 млн користувачів.

Що бачать рецензенти

Підрядники працюють із повними розмовами, включаючи ті, де є і ваші особисті дані. За описом 404 Media, разом із діалогом рецензенту показують зведення пам'яті користувача — накопичений контекст із минулих чатів, локацію, обставини життя. Імен користувачів в інтерфейсі немає.

Робота влаштована так. Рецензент пише, що хотів отримати користувач, потім оцінює кілька варіантів відповіді моделі за шкалою від 1 до 7.

Оплата помітно вища за звичайну для розмітки. Один рецензент із Північної Америки називав ставку більше 50$ на годину. Завдання при цьому обертаються навколо поведінки моделі. Придушення антропоморфізації, боротьба з підлабузництвом та налаштування тону.

Один із підрядників сказав 404 Media, що користувачі, на його думку, взагалі не уявляють собі, що десь сидить людина і розбирає їхні розмови. Згадується історія лондонського Builder.ai , який продавав автоматичне складання додатків, де значну частину роботи робив не ІІ, а живі інженери в Індії. У травні 2025 року компанія з оцінкою в 1,5 млрд доларів пішла в банкрутство. Загальне одне – про людей у цій схемі користувач дізнається останнім.

Як це знеособлюється

За очищення відповідає окрема модель Privacy Filter. Вона очищає імена, адреси, пошту та телефони. OpenAI визнає її обмеження: фільтр пропускає рідкісні ідентифікатори і погано працює там, де деталь значима лише у контексті, особливо у коротких листуваннях.

Механізм описаний тільки легше від цього не стає. Деанонімізація за непрямими ознаками обходиться без імені. Уявіть розмову, де людина згадала своє місто, професію, рідкісний діагноз та дату операції. Кожен елемент окремо нешкідливий, на жодному фільтр не спрацює. Але якщо хтось захоче покопати на певну людину, разом вони складаються у пазл.

Де тут юридична тонкість

Чи все це законно? Формально так. Опція "поліпшувати модель для всіх" включена за замовчуванням на тарифах Free, Plus і Pro, а політика приватності OpenAI дозволяє використовувати персональні дані для покращення моделей. Претензія не до законності, а до того, що прочитання промптів живими людьми там прямо не сказано. Після запиту 404 Media компанія оновила довідкову документацію та явно описала практику.

На майбутнє питання закрите. Проте історія добре показує, що формулювання «дані використовуються для поліпшення сервісу» не абстракція, а цілком конкретна людина в іншій країні, яка читає вашу розмову.

Два пункти, які варто знати користувачеві. На корпоративних тарифах – Enterprise, Business та Edu – навчання на діалогах вимкнено за умовчанням. І відмова не поширюється заднім числом: розмови, надіслані до того, як ви зняли галочку, із циклу оцінки не зникають.

OpenAI тут не унікальна, але умови в усіх різні. Anthropic теж використовує людську оцінку, проте вимагає явної згоди через налаштування Help improve our AI models, тобто за замовчуванням вона вимкнена. Google у Gemini попереджає про людську перевірку помітніше, ніж OpenAI до публікації 404 Media.

Що це означає

Людина з пайплайну нікуди не поділася. Він переїхав із розмітки картинок на оцінку поведінки моделей і помітно подорожчав.

Ставка тут велика. 50 $ з гаком на годину платять за експертну роботу, це рівень оплати сеньйора в багатьох країнах. Зворотний зв'язок з поведінкою моделі, будь то підлабузництво, антропоморфізація або тон, не формалізується в інструкцію для дешевого виконавця і не знімається автоматичною метрикою. Поки RLHF та його спадкоємці залишаються основним способом налаштовувати характер моделі, людська оцінка дорожчатиме разом із вимогами до моделей.

Для тих, хто впроваджує LLM у корпоративні процеси, висновок зрозумілий. Тариф визначає не лише ліміти. З'ясовувати треба, чи промпти потрапляють у цикл людської оцінки і як це відключається. У корпоративних та API-контурів умови зазвичай інші, ніж у споживчих тарифів, але «зазвичай» тут слово слабке, читати треба договір.

Мінімальний чекіст за будь-яким асистентом, що використовується. Чи увімкнено навчання на діалогах за замовчуванням і де цей перемикач. Чи поширюється відмова на вже надіслані розмови, чи тільки на майбутні. Скільки зберігаються логи після вимкнення. Чи відрізняються умови корпоративного тарифу від персонального у тих самих співробітників, які заходять зі своїх облікових записів. Останній пункт найчастіше ламається, тому що політика написана для корпоративного контуру, а половина команди користується особистою підпискою з дефолтними налаштуваннями.