Nvidia і Palantir не довіряють Claude свої дані

Як лабораторії навчаються на даних, навіть обіцяючи їх не зберігати

Джон Шульман, співзасновник OpenAI, який також встиг попрацювати в Anthropic, а зараз працює в Thinking Machines, описав спектр способів, якими AI-компанії використовують дані користувачів для тренування моделей. На одному кінці — пряме тренування на даних клієнтів, що несе високий ризик відтворення вмісту. Далі йде дистиляція великих моделей у менші. На іншому кінці — побудова завдань для навчання з підкріпленням на основі «слідів користувача» (user traces).

Цей останній підхід рідко відтворює конкретний вміст, але може витягувати інтелектуальну власність клієнта. Шульман наводить формулювання, якими компанії описують такі практики — від нешкідливих до інвазивних:

• use explicit user feedback in reward model training — використання явного фідбеку користувачів для тренування моделі винагороди
• upload user's coding environment and commit history to turn into rl envs — завантаження робочого середовища й історії комітів користувача для перетворення на середовища навчання з підкріпленням

За словами Шульмана, деідентифікація даних — слабкий захист: користувача можна ідентифікувати «за невеликою кількістю бітів», і це не рятує від витоку інтелектуальної власності.

Синтетичні дані як обхідний шлях повз нульове збереження

Дослідниця Сара Гукер, яка раніше працювала в Cohere та Google DeepMind, описує ще одну лазівку. Навіть якщо лабораторія не використовує оригінальні дані клієнта напряму, вона може застосувати «синтетичні техніки, які генерують дистрибутивно еквівалентні дані, зберігаючи приватність» — тобто витягнути статистичні патерни, які виконують ту саму роботу, що й оригінал.

Гукер попереджає компанії з власною інтелектуальною власністю: у них є обмежене вікно, щоб побудувати власний ШІ на основі цієї інтелектуальної власності. Інакше вони просто «живлять» провідну лабораторію, яка рано чи пізно зайде на їхній ринок.

Пізніше Шульман частково відкликав попередні заяви: тренування на даних користувачів «надзвичайно малоймовірно» суттєво впливає на прогрес найпередовіших моделей — головний приріст дає масштабування попереднього тренування й навчання з підкріпленням. Дані користувачів радше корисні для пошуку збоїв і ситуацій, які важко відтворити за допомогою платних анотаторів. Водночас він визнав: компанії суттєво відрізняються за агресивністю тренування на даних користувачів, і «завантаження репозиторіїв — це не гіпотетичний сценарій». Це натяк на інструменти кодування, де користувачі напряму підключають свої репозиторії до сервісу.

Кейс Бакмастера: коли підозра стала конкретною

Математик Трістан Бакмастер і його співавтор Левент Альпьоге використовували AI-моделі для просування у розв'язанні рівнянь Нав'є-Стокса, завантажуючи чернетки через Codex від OpenAI. Невдовзі після цього OpenAI представила власний прорив із тим самим нетиповим шляхом розв'язання.

Спочатку OpenAI визнала, що не може виключити, що анонімізовані дані, похідні від використання їхніх продуктів, посприяли покращенню моделей. Після внутрішнього розслідування компанія оновила заяву: промпти Бакмастера в Codex за два місяці до публікації 8 вересня 2026 року «не могли жодним чином вплинути на систему, зокрема через тренування». Сам факт показав, наскільки крихка довіра між бізнесом, наукою та AI-лабораторіями.

Що перевірити, перш ніж довірити моделі чутливі дані

Позиція Nvidia, Booz Allen і Palantir — лише перший фільтр. Навіть нульове збереження логів залишає прогалини: і OpenAI, і Anthropic збирають метадані та технічні дані використання від корпоративних клієнтів. OpenAI пропускає бізнес-дані через автоматизовані класифікатори та інструменти безпеки, щоб «краще розуміти, як використовуються їхні сервіси» — за словами компанії, результат не містить самих бізнес-даних, лише метадані про них. Частина клієнтів не впевнена, що саме охоплюють ці метадані, і вважає поточну прозорість недостатньою.

• Чи гарантія нульового збереження логів безумовна й безвідклична, чи має винятки на кшталт «захисту від складних атак»
• Що саме входить у метадані про використання, які постачальник збирає окремо від самих даних
• Що саме «бачать» автоматизовані класифікатори постачальника, коли обробляють ваші бізнес-дані
• Чи підключаєте ви робочі репозиторії або середовище розробки напряму до сервісу — це підвищує ризик
• Чи пропонує постачальник окрему програму зберігання логів безпеки на серверах клієнта

Шульман закликав до «жорсткіших норм розкриття інформації про те, як компанії тренуються на даних користувачів». Поки такого стандарту немає, перевірка політики постачальника лягає на саму компанію-клієнта.