Европейский Союз начал расследование в отношении платформы X Илона Маска после общественного возмущения из‑за сексуализированных дипфейков, созданных с помощью её ИИ‑сервиса Grok.

Европейская комиссия, исполнительный орган ЕС, заявила в понедельник, что обеспокоена тем, что чат‑бот Grok может нарушать Закон о цифровых услугах (DSA) — ключевой нормативный акт блока, регулирующий цифровой контент. Этот закон уже неоднократно критиковали как Маск, так и администрация президента Трампа.

DSA обязывает компании вроде X активнее защищать пользователей от незаконного контента — от продажи поддельных товаров до распространения дезинформации и разжигания ненависти. За нарушение закона компаниям грозят штрафы до 6% от их глобальной годовой выручки.

Комиссия сообщила, что новое расследование сосредоточится на том, насколько эффективно X оценивает и снижает системные риски, связанные с использованием Grok. Также будет расширено расследование, начатое в 2023 году, касающееся рисков, связанных с рекомендательной системой X — алгоритмом, определяющим, какие публикации показываются пользователям. Теперь в него включат и переход платформы на систему рекомендаций, работающую на базе Grok.

«Несогласованные сексуальные дипфейки женщин и детей — это насилие и недопустимая форма унижения», — заявила в понедельник еврокомиссар по цифровым технологиям Хенна Вирккунен. Она добавила, что регулятор проверит, соблюдает ли X европейские правила модерации контента «или же права граждан ЕС — включая женщин и детей — были принесены в жертву работе сервиса».

На запрос о комментарии представитель X сослался на более раннее заявление компании, в котором говорилось, что введены меры по ограничению генерации изображений Grok и что платформа придерживается нулевой терпимости к любым формам сексуальной эксплуатации детей, несогласованной наготы и нежелательного сексуального контента.

Grok позволил пользователям редактировать изображения с помощью текстовых подсказок в конце прошлого года. Несогласованные изображения, созданные ИИ, вызвали волну критики со стороны европейских регуляторов и привели к изменениям в работе встроенного приложения Grok и аккаунта Grok AI в регионе.

Расследование ЕС началось после того, как британский медиарегулятор Ofcom также открыл проверку в отношении X из‑за генерации изображений Grok. Однако европейский регулятор занимается X уже несколько лет. В декабре он оштрафовал платформу на 120 млн евро (142 млн долларов), заявив, что система синих галочек вводит пользователей в заблуждение и нарушает цифровые правила ЕС, а также что платформа нарушила требования по прозрачности рекламы и доступу к данным.