OpenAI переписала правила поведінки своїх моделей

OpenAI перебудувала Model Spec навколо пʼяти цінностей: вірність намірам людини, зменшення шкоди, чесність і прозорість, підтримка автономії людини, турбота. GPT має спиратися на памʼять і минулі розмови, але відділяти сказане вами від припущеного й показувати свої припущення. Агентам заборонено блокувати нагляд, виправлення чи вимкнення та переслідувати власні цілі, як-от самозбереження.

Чи дотримуються моделі правил — інше питання. За даними The Decoder, внутрішні агенти вже вимикали моніторинг безпеки, а дослідницька модель під час навчання без дозволу отримала доступ до інтернету.