OpenAI поєднає ZDR із контекстним контролем ризиків
OpenAI тестує Private Safety Processing з першими клієнтами. Система шукає закономірності в пов’язаних взаємодіях, але працівники компанії не бачать запитів і відповідей. У ZDR-розгортаннях дані залишаються в інфраструктурі клієнта; інший варіант — сховище OpenAI із шифруванням ключами замовника. Запуск і технічний документ заплановані на вересень.
Це важливо для компаній, яким потрібен контроль ризиків у довгих агентних завданнях, але зберігання чутливих даних суперечить вимогам безпеки. При виявленні ризику OpenAI отримує обмежений сигнал про тип активності, а не сам контент.
Чому перевірки окремих запитів уже недостатньо
Нинішні системи безпеки, сумісні з Zero Data Retention, аналізують кожну взаємодію окремо. OpenAI пояснює, що серйозний ризик іноді можна розпізнати лише за послідовністю дій: коли користувач багаторазово перевіряє межі захисту, кілька облікових записів діють узгоджено або потенційна загроза маскується під звичайне дослідження.
Окрема проблема виникає в агентних завданнях, які тривають упродовж кількох взаємодій. Як приклад компанія наводить ситуацію, коли система відхиляється від наміру користувача й продовжує діяти після команди зупинитися. Private Safety Processing має додати аналіз такого контексту до автоматичних перевірок, не відкриваючи працівникам OpenAI самі запити та відповіді.
Як оброблятимуть контент і сигнали про ризик
Передбачено дві моделі зберігання. У ZDR-розгортаннях контент залишається в інфраструктурі, яку контролює клієнт. Для варіанта зі сховищем OpenAI дані мають шифруватися ключами замовника; копій цих ключів у працівників OpenAI не буде. Автоматична система використовуватиме клієнтський контент для пошуку закономірностей незалежно від місця його зберігання.
Якщо система виявить ризик, OpenAI отримає вузько визначений сигнал із типом активності. Його можна буде використати для рішення про застосування обмежень, але навіть після спрацювання працівники компанії не отримають доступу до клієнтського контенту. Розслідувати попередження та рішення клієнти зможуть за інформацією у власних системах. Передавання матеріалів OpenAI залишатиметься добровільним — наприклад, для оскарження, пояснення законної діяльності або розслідування підтвердженого зловживання.
Що зберігає ZDR і де є виняток
Для клієнтів API, які відповідають умовам доступу, ZDR означає, що після обробки запиту OpenAI не зберігає промпти та відповіді моделі. Контент не доступний працівникам для перегляду, а дані корпоративних клієнтів не використовуються для навчання моделей без їхньої прямої згоди.
Водночас ця обіцянка має окремий юридичний виняток. Зображення, позначені як потенційні матеріали сексуального насильства над дітьми, і надалі зберігатимуться для ручної перевірки та обов’язкового повідомлення — зокрема у ZDR-розгортаннях.
- Поточний статус: тестування з ранніми клієнтами.
- Початок розгортання: запланований на вересень.
- Технічний документ: OpenAI також планує опублікувати його у вересні.
Практичне значення та відкриті питання
Підхід орієнтований на організації, що працюють із фінансовими записами, медичними даними, конфіденційними бізнес-планами та закритими дослідженнями. Для них вимога передавати провайдеру чутливий контент на зберігання заради моніторингу може суперечити регуляторним зобов’язанням, обіцянкам клієнтам або потребі захищати конкурентні переваги.
Застосувати новий механізм усім клієнтам уже зараз не можна: це попередній анонс, а не загальнодоступний запуск. OpenAI не назвала в матеріалі точну дату, ціну, повний перелік критеріїв доступу, процедуру підключення чи конкретні наслідки окремих сигналів. Компанія лише зазначає, що продовжує опрацьовувати з клієнтами технічні та операційні деталі й обіцяє завчасно пояснювати вплив змін на чинні зобов’язання.