Як Fyxer навчив GPT писати листи за вас

Як пошта перетворюється на ланцюжок рішень

Коли лист потрапляє до Fyxer, система спершу визначає, чи він взагалі потребує реакції. Окрема модель класифікує повідомлення за трьома типами: потребує відповіді, стосується планування зустрічі, або просто інформує — і відповіді не чекає. Лише після цього підключаються моделі, які аналізують намір листа й прогнозують, куди рухається розмова: до домовленості про зустріч, до закриття запиту чи до продовження довшого діалогу.

Окремий блок моделей відповідає за пам'ять: які деталі про співрозмовника варто зберегти для наступних листів, а які втратять сенс одразу після цієї розмови. Коли надходить новий лист, ці моделі порівнюють його зі збереженими взаємодіями й підтягують саме ті факти, що стосуються цієї людини й цього треду. За словами співзасновника Fyxer Арчі Голлінгсворта, розбивати задачу на десятки вузьких моделей ефективніше, ніж просити одну модель одразу написати хороший лист.

Звідки модель знає, як пише саме ваш асистент

До того, як зайнятися ШІ-продуктом, команда Fyxer роками надавала послуги живих executive assistants. Зібраний за цей час масив — понад 500 000 годин анотованих робочих процесів — став навчальними даними, у яких зафіксовані не шаблони, а дрібні рішення: коли відповідати одразу, коли почекати, який попередній лист має значення для поточного запиту.

Для навчання система використовує supervised fine-tuning і LoRA — це дозволяє створювати варіанти моделі під конкретні підзадачі, не збільшуючи вартість тренування пропорційно кількості моделей. На ранньому етапі команда користувалась платформою файн-тюнінгу OpenAI для задач, де потрібна висока точність; пізніше — впроваджувала нові версії разом з командою керованого файн-тюнінгу OpenAI. Перед тим як будь-яка модель потрапляє в роботу, її перевіряють на валідаційних наборах за трьома задачами — складання чернетки, класифікація, пріоритизація, — і зважують не лише точність, а й швидкість та вартість відповіді, бо оптимальний баланс різний для різних задач.

Цикл навчання на правках — і його межа

Коли користувач редагує чернетку перед відправкою, різниця між первинним і фінальним варіантом листа стає навчальним прикладом: система не потребує ручної розмітки, а вчиться на парі «до і після» через Direct Preference Optimization. Кожна зміна в моделі складання чернеток проходить A/B-тест і йде в продакшн лише за статистично значущого покращення.

Тут і криється обмеження підходу: швидкість перевірки залежить від обсягу користувачів. У Fyxer вистачає трафіку, щоб дійти до статистичної значущості за добу. Для команди з невеликою кількістю активних користувачів той самий цикл розтягнеться на тижні — тобто модель фактичного самонавчання на правках працює надійно лише там, де потік реальних взаємодій достатньо великий, щоб різниця між варіантами не губилась у шумі.

Що перевірити, перш ніж довіритись чернетці

Понад половина згенерованих листів приймається без правок — але це означає, що майже половина все ще потребує редагування людиною перед відправкою: систему варто сприймати як помічника, що готує чернетку, а не як автопілот для листування. Голлінгсворт наголошує, що для нього показовіша метрика не дохід, а утримання користувачів — саме воно свідчить, що люди продовжують довіряти системі день у день, а не одноразово оцінили її як цікаву.

Наступний крок команди — розширити систему за межі складання відповідей до ширшого асистента, який керує більшою частиною комунікації та координації користувача. Матеріал не називає ані вартості підключення, ані конкретних умов доступу до Fyxer.