Хтось запустив офлайн-застосунок на Voxtral, хтось має жахливі транскрипти в Teams і 8x8

Один з учасників розповів, що запустив комерційний Windows-застосунок для офлайн-інференсу моделі Voxtral Mini 4B Realtime на звичайному залізі: йому достатньо 4 ГБ відеопам'яті, і швидкість перевищує реальний час навіть на ноутбуці середнього рівня з Ryzen 5 5600U та вбудованою графікою. Він також зауважив, що попереднє покоління відкритих моделей STT від Mistral було доволі гарним, і зараз працює над портом застосунку під Linux.

Інший учасник розповів, що транскрибував дзвінки з Microsoft Teams і 8x8, і результат виходив жахливим — настільки поганим, що інколи транскрипти неможливо надійно використовувати разом з LLM. Він написав, що хотів би плагінів, які дозволили б спрямовувати потоки з Teams і 8x8 у подібні моделі, щоб замінити слабші стокові рішення.

Учасник, який за його словами будує голосових агентів уже рік, написав, що відсоток помилок розпізнавання і природність звучання в різних провайдерів уже 'достатньо добрі'. Справжні проблеми, на його думку, — в затримці, обробці переривань, умінні перебити користувача, коли це потрібно, і в адаптації до емоції й тону розмови. Він додав, що хотів би побачити бенчмарк, який перевіряє саме ці речі, і що наявні результати бенчмарків для Voxtral 3 виглядають вражаюче.

Ще один учасник написав, що моделі серії Voxtral йому сподобались: транскрипція й діаризація хороші, і це його головний особистий сценарій використання — йому хотілося б перетворювати контент подкастів на текст, бо він читає швидше, ніж слухає; за його словами, старіші версії моделі були дешевими і мали приємну властивість не галюцинувати текст, коли мовлення немає. Водночас хтось інший зауважив, що досі не бачив рішення для ситуації, коли в мовлення іншою мовою вставляють англійські слова — через них результат розпізнавання завжди виходить непридатним.