OpenAI готує правила звітування про неузгоджену поведінку

Після так званого «wiki incident» OpenAI повідомила, що працює над рамкою для фіксації інцидентів неузгодженої поведінки моделей. Вона має охопити три етапи життєвого циклу ШІ: навчання, оцінювання та розгортання. У наданому матеріалі немає опису самого інциденту, строків запуску рамки чи конкретних вимог до звітів.

Це важливо, бо OpenAI розглядає проблемну поведінку не лише як збій уже запущеного продукту. Якщо правила охоплять навчання й оцінювання, сигнали про відхилення доведеться фіксувати ще до виходу моделі у продакшн.

🔗 Більше новин на сайті