Muse від Meta: більше стежить, ніж допомагає
За тиждень Muse від Meta завантажили понад 900 тис. разів (Sensor Tower). Агент сам ходить по сайтах через «віртуальну машину»: бронює столики, купує на Marketplace, замовляє їжу. Але постійно пропонує підключити ще дані — всю пошту, фото документів, фото їжі для підрахунку калорій, дату закінчення паспорта.
Усі чати з Muse за замовчуванням ідуть на тренування моделей Meta, а спосіб «очищення» даних від ідентифікаторів компанія не розкриває. Повністю вимкнути пам'ять агента теж не можна.
Як агент діє на практиці
Muse виконує запити не як чат-бот, а радше як помічник, якому просто пишеш завдання: агент підтверджує повідомлення емодзі «палець вгору» і працює у фоні через «віртуальну машину» — сам заходить на сайти, шукає, клікає. Автор WIRED протестував це на прикладі замовлення сніданку в пекарні Kahnfections у Сан-Франциско: Muse сам додав у кошик бутерброд з беконом і сиром, попросив прив'язати картку через Stripe, а коли на сайті виявився вибір лише одного виду сиру, залишив продавцю примітку з проханням додати ще й швейцарський. При цьому агент сам обрав варіант «без чайових».
На Facebook Marketplace Muse показав себе ще впевненіше: швидко знайшов дешеві дивани поблизу за заданими параметрами і запропонував написати продавцям про самовивіз. Наступного дня агент сам нагадав користувачу про диван, який той назвав улюбленим, — це закладена у Muse функція подальших нагадувань.
Пам'ять, яку не можна вимкнути повністю
Усі деталі про користувача Muse зберігає в документі «Пам'ять», доступному через тап по аватарці, — там «стійкі факти, вподобання й домовленості». Стерти пам'ять можна лише запитом у чаті або вручну відредагувавши файл; перемикача, який вимикає функцію пам'яті цілком, у застосунку немає.
Розділ «ідеї» у Muse регулярно пропонував авторці підключити ще джерела даних. Коли вона написала, що збирає на відпустку, агент запропонував прив'язати реальні баланси поточного й накопичувального рахунків, щоб «щотижневі підсумки й сповіщення про відхилення рахувалися від реальних цифр, а не приблизних оцінок». Інші «ідеї» пропонували дати Muse доступ до всієї поштової скриньки для позначення важливих листів, сфотографувати документи для заповнення, сфотографувати їжу для підрахунку калорій і повідомити дату закінчення паспорта й водійських прав.
Тренування моделі за замовчуванням і обіцянки на майбутнє
Усі користувачі автоматично підключені до використання своїх діалогів для тренування моделей Meta; компанія каже, що дані перед цим «очищають» від ідентифікаторів, але як саме — не пояснює. Вимкнути це можна в налаштуваннях: Data controls → Help improve our AI models.
Речник Meta стверджує, що Muse побудований з «вбудованим захистом і контролем користувача», а віцепрезидент Meta Superintelligence Labs Тарек Шіша назвав автоматичне збирання даних «хорошим стандартом», який дає кожному користувачу кращого персонального агента в міру того, як модель «розуміє тонкощі людського життя». Юристка EPIC Каллі Шрьодер називає це радше червоним прапорцем і згадує, як Meta нещодавно автоматично підключила всіх дорослих користувачів Instagram до інструмента дипфейків, а за кілька днів відкликала функцію. Meta також планує пізніше цього року випустити «конфіденційні» версії віртуальної машини, які мають «криптографічно й перевірювано» унеможливити доступ компанії до даних усередині.
Непрямий вплив на рекламу та ризик пасивності
Дані з Muse напряму не передають рекламодавцям, але, за блогом безпеки Muse, дії агента — бронювання столика чи покупка на Marketplace — можуть «опосередковано впливати» на рекламу, яку користувач бачить в Instagram. Головний ШІ-директор Meta Александр Вон в інтерв'ю Axios натякнув, що компанія шукає для Muse інші джерела доходу, крім реклами, не розкривши деталей.
Дослідниця Hugging Face Маргарет Мітчелл, співавторка роботи про агентні інструменти, попереджає, що такі системи не розраховані на ефективний людський нагляд і можуть погіршувати здатність користувача оцінювати дії агента: люди стають пасивнішими і ризикують «когнітивною деградацією» — покладаються на впевнений зовнішній інструмент замість самостійних рішень. Вона також зазначає, що глибока персоналізація підлаштовує стиль спілкування агента під користувача, а це затягує в діалог і провокує ділитися ще більшою кількістю приватних даних.
Перед тим як довіряти Muse фінансові чи документальні дані, варто перевірити перемикач тренування моделей у налаштуваннях, пам'ятати, що повністю вимкнути пам'ять агента не можна, а точний спосіб «очищення» даних перед навчанням моделі компанія не розкриває.