Живі люди читають ваші чати з ChatGPT
OpenAI найняла сотні підрядників, які оцінюють реальні розмови користувачів за шкалою від 1 до 7 — за даними розслідування 404 Media. Їх набирають через Crossing Hurdles, оплачують через Mercor; один рецензент у Північній Америці отримує понад $50/год. Промпти анонімізовані, але фільтр приватності іноді пропускає чутливі дані.
Про це OpenAI згадує лише в FAQ з 2023 року. Налаштування "Improve the model for everyone" увімкнене за замовчуванням і подано як добровільний внесок, а не згода на перегляд людьми. Anthropic і Google роблять те саме зі своїми чат-ботами.
Що саме роблять рецензенти
Підрядники оцінюють відповіді ChatGPT за шкалою від 1 до 7. Задача — знизити зайву улесливість і надто «людську» поведінку моделі. Тобто це не випадковий доступ до чатів, а системний процес: живі люди читають реальні розмови користувачів і виставляють бали конкретним відповідям бота.
Один із рецензентів прямо сказав журналістам 404 Media, що, на його думку, користувачі не здогадуються, що їхні чати читають люди. Це підтверджують і самі перевірені промпти: серед них траплялись розмови, де користувач прямо просив ChatGPT зберегти вміст у таємниці.
Анонімізація не рятує повністю
OpenAI застосовує фільтр приватності перед тим, як промпт потрапляє до рецензента, і в компанії визнають: фільтр може помилятися. Тобто чутлива особиста інформація іноді доходить до людини-перевірника попри анонімізацію.
Практична порада для роботи з ChatGPT випливає звідси напряму: не вводити в чат дані, які не готові показати сторонній людині — номери документів, фінансові деталі, персональні дані клієнтів чи співробітників. Це стосується і бухгалтерів, і юристів, і HR, які звикли вставляти в чат реальні фрагменти договорів або кадрових справ.
Як вимкнути передачу чатів на перегляд
У налаштуваннях ChatGPT є опція Improve the model for everyone — вона увімкнена за замовчуванням. Якщо її вимкнути, нові розмови не використовуються для тренування моделі і, відповідно, не потрапляють на перегляд людям. Важливо: зміна діє лише на нові чати, а не заднім числом.
- Вимкнути
Improve the model for everyoneу налаштуваннях приватності — для нових розмов - Використовувати тимчасовий режим чату (temporary chat) — за заявою компанії, дані з нього не йдуть на тренування моделі
- Не вводити чутливі дані навіть за увімкненого захисту — фільтр приватності працює з похибками
Це не лише про OpenAI
Anthropic підтвердила журналістам, що також використовує людських рецензентів для перевірки відповідей Claude і покращення майбутніх моделей — це стосується користувачів, у яких увімкнено налаштування «Help improve our AI models». Anthropic анонімізує розмови, прибираючи дані акаунта, зокрема email. Google так само використовує рецензентів і в Gemini прямо зазначає, що люди можуть переглядати збережені чати.
Формулювання на кшталт «добровільний внесок у покращення моделі» звучить м'якше, ніж «згода на перегляд людьми» — і це, ймовірно, свідомий вибір: явний запит на згоду підвищив би відсоток відмов. Для компанії, що приймає рішення про корпоративне використання чат-ботів, це означає, що потрібно окремо перевіряти налаштування приватності в кожного провайдера, а не покладатися на дефолтні значення.