Ваші чати з ChatGPT читають живі люди
OpenAI платить сотням контрактників за читання реальних розмов користувачів ChatGPT — вони оцінюють відповіді за шкалою від 1 до 7, шукаючи зайву улесливість і надто "людську" поведінку моделі. Виконавців набирають через Crossing Hurdles, платить Mercor; один рецензент у Північній Америці отримує понад $50/год. Джерело — розслідування 404 Media на основі внутрішніх документів.
Про перегляд людьми OpenAI згадує лише в FAQ з 2023 року, без явного запиту згоди. Anthropic підтвердили те саме для Claude (опція "Help improve our AI models", email видаляють), Google — для Gemini.
Чому користувачі не здогадуються, що їх читають
Один з рецензентів прямо сказав журналістам 404 Media: він не думає, що користувачі знають, що їхні розмови читають живі люди. Це підтверджують самі промпти, які потрапляють на перевірку — серед них траплялися звернення, де людина явно просила ChatGPT зберегти вміст розмови в приватності. Тобто користувач вважав чат конфіденційним саме в той момент, коли текст уже йшов на перевірку рецензенту.
Коли 404 Media запитало OpenAI, де саме користувачів явно попереджають про людську перевірку, компанія спершу взагалі не відповіла. Єдина згадка — сторінка FAQ, яка пояснює, що авторизований персонал і сервіс-провайдери можуть переглядати дані користувачів для покращення моделі, і радить не вводити чутливу інформацію. Ця сторінка існує щонайменше з 2023 року і за цей час змінювалася лише незначно.
Що можна зробити вже зараз
У налаштуваннях конфіденційності є перемикач Improve the model for everyone — він увімкнений за замовчуванням. Вимкнення зупиняє використання нових розмов для тренування моделі і, відповідно, їх потрапляння до рецензентів. Важливе застереження: зміна діє лише на нові розмови, а не заднім числом на вже наявну історію чату.
Окремо OpenAI пропонує режим тимчасового чату — за заявою компанії, дані з нього не використовуються для тренування моделі. Це варіант для одноразового запиту з чутливою інформацією, яка не повинна залишити слід.
- Перевірте, чи увімкнено
Improve the model for everyoneу налаштуваннях конфіденційності - Для одноразових чутливих запитів використовуйте режим тимчасового чату
- Пам'ятайте: вимкнення перемикача діє лише на нові розмови — стара історія вже могла бути переглянута
Анонімізація не означає конфіденційність
OpenAI застосовує фільтр приватності перед тим, як розмови потрапляють до рецензентів, але сама компанія визнає: фільтр може помилятися. Анонімізовані промпти все одно можуть містити чутливі персональні дані, які фільтр не розпізнав і не прибрав.
Схожий принцип — з відмінностями в деталях — діє і в інших компаніях. Anthropic перед переглядом розмов рецензентами прибирає облікові дані на кшталт email-адрес, але це стосується лише користувачів, які самі увімкнули опцію Help improve our AI models у налаштуваннях. Google у Gemini окремо попереджає, що люди можуть переглядати збережені чати.
Чому формулювання саме таке
404 Media звертає увагу: Improve the model for everyone звучить як дружня участь у спільній справі, а не як згода на те, щоб конкретні люди читали конкретні розмови. Ймовірно, це не випадковість: якби запит на явну згоду сформулювали прямо, відсоток відмов, за очікуваннями видання, був би значно вищим. Для індустрії загалом людська перевірка залишається ключовим елементом покращення моделей, тож подібна практика поширена не лише в OpenAI.