Meta запустила Muse — персонального ИИ-агента, способного бронировать визиты к врачу, управлять финансами и совершать покупки от имени пользователя. Но для этого агенту нужен доступ к электронной почте, банковским счетам и другим личным данным — а именно доверия к Meta в вопросах приватности у пользователей исторически меньше всего среди крупных технологических компаний.
Доверие пользователей никогда не было сильной стороной Meta Platforms. Но именно от него всё сильнее зависит будущее компании в сфере искусственного интеллекта.
Что такое Muse
На прошлой неделе Meta представила Muse — «персонального ИИ-агента, созданного для всех», по описанию генерального директора компании Марка Цукерберга. Агенты искусственного интеллекта внутри Muse способны записывать пользователей на приём к врачу, покупать товары, управлять личными финансами, отправлять письма и выполнять множество других задач от имени человека.
В теории это должно экономить людям время и облегчать организацию повседневной жизни. По версии самой Meta, это также «демократизирует» доступ к ИИ. Цукерберг впервые изложил своё видение «персонального суперинтеллекта» в прошлом году, а в августовском эссе представил Muse, говоря о том, что технология призвана «отдать людям силу для достижения собственных устремлений».
Проблема доверия
Однако для работы Muse требуется доступ к личным данным пользователей — их электронной почте, календарям, аккаунтам на сайтах электронной коммерции и банковским счетам. Именно здесь стратегия Meta, судя по всему, обречена столкнуться с серьёзными препятствиями.
Доверие к крупным технологическим компаниям у пользователей в целом невысокое, но к Meta оно особенно низкое. По данным опроса потребителей в США, проведённого Oppenheimer & Co., лишь 8% респондентов заявили, что доверили бы Meta свои пароли, — это менее трети от доли тех, кто готов доверить их Google.
«Любые сомнения или колебания потребителей в вопросах конфиденциальности и безопасности данных мы считаем, вероятно, главным препятствием на пути к массовому внедрению потребительских ИИ-агентов», — отметил аналитик Goldman Sachs Эрик Шеридан в записке, опубликованной после запуска Muse.
На этом фоне — вкупе с недавним всплеском тревоги по поводу ИИ-агентов, выходящих из-под контроля, — Meta едва ли может позволить себе какие-либо сбои с приватностью пользователей при запуске Muse.
Как Meta пытается развеять опасения
В официальном анонсе продукта компания старательно подчёркивала его надёжность, описывая Muse как «безопасный, защищённый, приватный» сервис и уточняя, что агент будет работать на изолированной виртуальной машине, недоступной для агентов других пользователей.
Во вторник в посте в X Цукерберг заявил, что компания отложила запуск Muse на несколько месяцев, чтобы «сосредоточиться на безопасности». Он также отверг идею скоординированного с Anthropic, OpenAI и SpaceX замедления темпов разработки передовых моделей ИИ, предположив, что у компаний и без того есть естественные стимулы удерживать своих ИИ-агентов в разумных рамках.
Пока не вполне ясно, убеждают ли эти аргументы пользователей. Но задача привлечь значительную часть из 3,6 млрд пользователей Meta к использованию Muse выглядит крайне амбициозной.
Груз репутации
Всего шесть лет назад Meta выплатила рекордный штраф в $5 млрд Федеральной торговой комиссии США за нарушения конфиденциальности пользовательских данных в рамках скандала с Cambridge Analytica. Годом позже произошла утечка данных 533 млн пользователей. Передача данных европейских пользователей на американские серверы обернулась рекордным штрафом в $1,3 млрд в 2023 году согласно строгому европейскому регулированию в сфере защиты персональных данных. Судебным разбирательствам по вопросам безопасности пользователей — включая недавнее урегулирование иска о вреде, наносимом подросткам в США, на сумму $18 млрд, — репутация компании тоже не помогла.
Преимущества и риски Meta
При этом у Meta есть и определённые преимущества. Компания располагает беспрецедентным объёмом данных из соцсетей и может интегрировать своих агентов с торговой платформой Marketplace. Кроме того, Meta стала первопроходцем на рынке персональных ИИ-ассистентов: ни один другой крупный игрок в сфере ИИ пока не предлагает ничего подобного.
Впрочем, статус первопроходца может обернуться для компании и обратной стороной. Если агенты будут допускать ошибки, пока Meta устраняет их «детские болезни», риск утраты доверия пользователей и их оттока крайне высок. Ставки в случае персонального агента особенно велики: агентам предоставлены полномочия самостоятельно покупать товары, назначать встречи и бронировать поездки — а любая ошибка в этих действиях способна напрямую стоить пользователю денег.
Сама Meta признаёт, что сбои неизбежны: при регистрации в Muse пользователям показывается предупреждение о том, что агент «может совершать ошибки или предпринимать неожиданные действия, поэтому проверяйте результаты его работы». Даже если пользователь дал агенту недостаточно чёткую инструкцию, ситуация, при которой агент купит товар за $1000 вместо задуманных $10, едва ли устроит кого-либо.
Конкуренция и финансовые перспективы
Если идея Muse окажется успешной, к рынку могут подключиться и конкуренты. Google находится в особенно выгодном положении для того, чтобы извлечь выгоду из подобных агентов, поскольку уже предлагает пользователям почту, календарь и облачное хранилище — источники данных, которые могли бы питать таких агентов, — в сочетании с передовой моделью ИИ.
Причём даже если Meta удастся преодолеть груз собственной репутации в вопросах приватности и Muse станет успешным продуктом, его финансовый эффект вряд ли окажется масштабным. Базовый уровень использования Muse бесплатен, но за более интенсивное использование компания взимает $20 или $100 в месяц. По оценке Oppenheimer, чтобы увеличить прибыль Meta на акцию примерно на 20%, компании потребовалось бы привлечь 115 млн подписчиков Muse, платящих по $20 в месяц, — это примерно вдвое больше нынешнего числа платных подписчиков ChatGPT от OpenAI.
Подобная цель выглядела бы амбициозной даже без проблем Meta с доверием пользователей — учитывая, что многие люди, готовые платить за ИИ-сервисы, уже пользуются продуктами OpenAI, Google и других компаний.
Почему Muse так важен для Meta
Тем не менее компании critically важно, чтобы проект оказался успешным. Meta вкладывает в развитие ИИ огромные средства — ожидается, что капитальные затраты компании в этом году составят около $137 млрд, — опираясь на прибыльный и быстрорастущий рекламный бизнес. Помимо уже успешного применения ИИ в рекламе, компания пытается получать отдачу от инвестиций и через платные подписки на дополнительные функции в Facebook, Instagram и WhatsApp. Она также продаёт сторонним компаниям доступ к своим наиболее продвинутым моделям ИИ и рассматривает возможный выход на рынок облачных вычислений. Muse — ещё один важный элемент этой машины по извлечению отдачи от инвестиций в ИИ.
Инвесторы пока встретили запуск Muse благосклонно: с момента релиза акции Meta выросли примерно на 8,5%.
Но фирменный девиз Цукерберга «двигайся быстро и ломай всё на своём пути» за годы существования компании уже успел сломать немало вещей — в том числе доверие её собственных пользователей. В эпоху искусственного интеллекта это может обойтись Meta очень дорого.
