Реальні чати ChatGPT читають живі люди
Сотні контрактників оцінюють відповіді ChatGPT за шкалою від 1 до 7, знижуючи зайву лестощі й «людяність» моделі — пише 404 Media. Рев'юерів наймають через Crossing Hurdles, платять через Mercor; один із них у Північній Америці отримує понад $50 за годину. Промпти анонімізовані, але іноді містять чутливі дані — навіть коли користувачі просили тримати розмову приватною.
OpenAI згадує про людський перегляд лише в FAQ, який не змінювався з 2023 року. Схожу практику підтвердили Anthropic (видаляє email перед переглядом) і Google.
Що саме перевіряють ревʼюери
Люди виставляють відповідям ChatGPT оцінку від 1 до 7 за окремою шкалою. Головне завдання рецензентів — прибрати надмірну лестощі та зайву «людяність» у поведінці моделі, тобто відкалібрувати тон відповідей, а не перевіряти факти чи код.
Один із рецензентів прямо сказав журналістам, що, на його думку, користувачі не здогадуються, що їхні чати читають живі люди. Це підтверджують і самі перегляди: серед проаналізованих розмов траплялися такі, де користувач прямо просив ChatGPT тримати зміст приватним.
Як компанії намагаються захистити дані
Промпти перед переглядом анонімізують, і OpenAI застосовує фільтр приватності, який має вирізати чутливі дані. Компанія сама визнає, що цей фільтр іноді помиляється — тобто особисті чи ділові подробиці можуть дійти до рецензента, навіть якщо система мала їх прибрати.
Схожий підхід підтвердили в Anthropic: перед переглядом розмов рецензентами компанія видаляє облікові дані, зокрема email. У Google також працюють люди-рецензенти — компанія зазначає в Gemini, що збережені чати можуть переглядати люди.
Що впливає на потрапляння чату до рецензента
У ChatGPT за замовчуванням увімкнена опція «Improve the model for everyone» — саме вона відкриває доступ до розмови для тренування моделі й потенційного перегляду людиною. Вимкнути її можна в налаштуваннях, але дія поширюється лише на нові розмови, а не на вже наявну історію.
Є й альтернатива — режим тимчасового чату: за словами компанії, дані з нього не використовуються для тренування моделі. У Anthropic діє подібний принцип: перегляд стосується тільки тих користувачів, у яких увімкнено опцію «Help improve our AI models» у налаштуваннях приватності.
- Перевірте, чи увімкнена в акаунті опція покращення моделі, і вимкніть її для нових розмов, якщо це критично
- Для одноразових чутливих запитів використовуйте тимчасовий режим чату
- Не покладайтеся на фільтр приватності як на гарантію — компанія сама визнає можливі помилки
- Для робочих переписок із комерційною таємницею уточніть, чи діє в компанії корпоративний тариф з іншими умовами обробки даних
Чому розкриття практики викликало питання
OpenAI згадує про людський перегляд лише на сторінці FAQ, яка не змінювалася по суті з 2023 року. Журналісти 404 Media вважають таке розкриття надто прихованим і розпливчастим, щоб користувач реально усвідомлював масштаб перегляду. Формулювання «Improve the model for everyone» звучить швидше як добровільний внесок у спільну справу, ніж як згода на те, що людина прочитає конкретну розмову.
Для бізнесів, які пропускають через ChatGPT комерційну переписку, договори чи фінансові дані, це означає одне: типова згода за замовчуванням не гарантує конфіденційності, і рішення про вимкнення опції варто приймати свідомо, а не залишати на дефолтних налаштуваннях.