Британское Управление по защите данных (ICO) открыло официальное расследование в отношении платформы X и компании xAI, принадлежащих Илону Маску. Поводом стало то, что ИИ‑модель Grok генерировала сексуализированные дипфейки, включая изображения несовершеннолетних, без согласия изображённых людей.

ICO заявило, что массовое создание и распространение таких изображений вызывает серьёзные вопросы о соблюдении GDPR — британского закона о защите данных. Регулятор намерен выяснить, были ли в Grok предусмотрены необходимые механизмы безопасности и соблюдались ли требования прозрачности и законности обработки данных.

Франция проводит обыски и вызывает Маска на допрос

Параллельно французская прокуратура сообщила о рейде в парижском офисе X. Следователи из подразделений по борьбе с киберпреступностью, национальной полиции и Европола проводят расследование, начатое ещё в январе прошлого года. Оно касается злоупотребления алгоритмами, незаконного извлечения данных и теперь расширено на жалобы, связанные с Grok.

Илон Маск и бывшая глава X Линда Яккарино вызваны на добровольный допрос в апреле как руководители платформы в период, когда произошли нарушения. Яккарино покинула пост в июле прошлого года.

Французские следователи рассматривают возможные преступления, включая:

• участие в хранении и распространении материалов с сексуальным насилием над детьми;
• нарушение прав на изображение через сексуализированные дипфейки;
• отрицание преступлений против человечности.

Grok массово производил непристойные изображения

В декабре и январе аккаунт Grok в X использовался для массовой генерации частично обнажённых изображений женщин и девушек. Исследователи подсчитали, что за две недели ИИ создал около 3 миллионов сексуализированных изображений, включая 23 тысячи, которые, по всей видимости, изображали детей.

После скандала X и xAI объявили о мерах по борьбе с злоупотреблениями, но регуляторные проверки продолжаются.

ICO: «Это вызывает глубокую тревогу»

Представитель ICO Уильям Малкольм заявил, что ситуация поднимает крайне серьёзные вопросы о том, как использовались персональные данные людей и были ли предусмотрены меры для предотвращения злоупотреблений.

Он подчеркнул, что потеря контроля над изображением может причинить немедленный и серьёзный вред, особенно если речь идёт о детях.

GDPR требует, чтобы данные обрабатывались законно, справедливо и прозрачно, а люди были уведомлены о том, как используется их изображение. Нарушение закона может привести к штрафу до £17,5 млн или 4% мирового оборота компании.

Юристы: «Это один из самых серьёзных возможных нарушений»

Адвокат Иэн Уилсон отметил, что если фотографии реальных людей использовались для создания сексуализированных дипфейков без согласия, то это «трудно представить более вопиющее нарушение закона о защите данных».

Регуляторы усиливают давление

Ofcom, британский медиарегулятор, сообщил, что расследует X, но не xAI. Министерство науки и технологий заявило, что обновлённый Online Safety Act требует от платформ активных действий по борьбе с подобным контентом. Власти также планируют запретить распространение инструментов, предназначенных для создания интимных изображений без согласия.