OpenAI подовжила кеш промптів в API до 12 годин
OpenAI збільшила термін зберігання кешу промптів в API — тепер до 12 годин. Для авторизованих користувачів Codex і Work кеш зберігається безстроково.
Це означає, що навіть через кілька годин можна повернутися до старої задачі й продовжити роботу з гарантованим попаданням у кеш — без повторної обробки всього контексту.
Що це означає для бізнесу: менше повторної обробки контексту — менше витрачених лімітів і коштів на токени, особливо при роботі з довгими задачами в Codex, де повернення до контексту раніше коштувало дорого.