Впервые в истории отрасли руководители Anthropic, OpenAI, SpaceX и Google DeepMind публично поддержали скоординированное замедление темпов развития искусственного интеллекта. Белый дом эту инициативу не поддержал: Трамп заявил, что Америка не может позволить себе отставание от Китая в гонке ИИ, назвав опасения «надуманными негативными силами».
ВАШИНГТОН — Президент Трамп и советник Белого дома по искусственному интеллекту Дэвид Сакс на этих выходных отстояли стратегию администрации на минимальное регулирование отрасли — сразу после того, как руководители крупнейших американских ИИ-компаний публично поддержали идею скоординированного замедления развития технологии.
«Мы можем выстроить ограждения, можем сделать то и это, но, по-моему, за этим стоит немало негативных сил, которые всё это раздувают, — заявил Трамп журналистам в воскресенье во время поездки в Ирландию. — И они поднимают вопросы, которые никогда не реализуются».
Президент вновь подтвердил убеждённость в том, что США обязаны опередить Китай в развитии ИИ, заявив: «Кто победит в гонке ИИ, тот победит вообще».
Скандал вокруг увольнения из Anthropic
Тревога вокруг искусственного интеллекта резко усилилась на прошлой неделе после того, как исследователь Anthropic Джейкоб Коксон уволился из компании и выступил с предупреждением о катастрофических для человечества последствиях, если развитие технологии выйдет из-под контроля. Сакс, венчурный инвестор, и другие представители Кремниевой долины заявили, что Коксон координировал свои действия с некоммерческими организациями, которые республиканцы считают враждебными отрасли — из-за их фокуса на экзистенциальных рисках и поддержки государственного контроля. Сам Коксон утверждает, что действовал самостоятельно.
Комментарии президента поставили под вопрос, получат ли призывы технологических компаний притормозить развитие поддержку со стороны государства.
Беспрецедентное единство отрасли
В субботу, в редком для отрасли проявлении единства, генеральный директор Anthropic Дарио Амодеи, глава OpenAI Сэм Альтман, глава SpaceX Илон Маск и главный научный сотрудник Google DeepMind (материнская компания — Alphabet) Демис Хассабис заявили, что поддерживают скоординированное замедление темпов развития отрасли. Ранее заявление в поддержку такого шага подписали более 1000 исследователей в сфере ИИ.
Руководители ИИ-компаний, тратящие десятки миллиардов долларов на разработку моделей искусственного интеллекта, отметили: поддержка со стороны государства помогла бы реализовать замедление, дав компаниям гарантии, что координация действий не будет расценена как нарушение антимонопольного законодательства и не создаст иных юридических проблем.
Что предложил Амодеи
Дискуссию в субботу запустил пост Амодеи в блоге. Он написал, что риски, которые несут инструменты ИИ, слишком велики, чтобы продолжать разработку прежними головокружительными темпами. По его мнению, США следует «выступить посредником или как минимум создать условия» для скоординированного замедления среди ИИ-компаний, чтобы избежать проблем с антимонопольным регулированием.
Призывая отрасль сбавить темп разработки, Амодеи предложил ряд новых мер, включая более тесную глобальную координацию между демократическими странами и внедрение независимых сторонних экспертов по безопасности непосредственно в процесс разработки.
«Я считаю, что если бы замедление дало нам хотя бы дополнительный год или два до того, как модели достигнут критического уровня возможностей, и мы использовали бы это время для продвижения работы над выравниванием (alignment), мы могли бы значительно снизить риск серьёзной катастрофы», — написал он в посте.
Кроме того, в интервью CBS, вышедшем в эфир в воскресенье, Амодеи заявил, что надеется на достижение договорённости между Трампом и председателем КНР Си Цзиньпином о запрете использования ИИ для разработки биологического оружия — тема, вызывающая всё большую обеспокоенность у исследователей и специалистов по национальной безопасности.
«В более долгосрочной перспективе стоило бы совместно установить своего рода ограничение скорости прогресса ИИ. Полагаю, это будет очень сложно», — добавил он, объяснив это военными стимулами, подталкивающими к ускоренному развитию технологии.
Альтман: не время для IPO
Альтман допустил, что его компании, OpenAI, возможно, придётся отложить IPO, чтобы сосредоточиться на вопросах безопасности. В интервью Fortune, опубликованном в субботу, Альтман заявил, что OpenAI, скорее всего, не выйдет на биржу в этом году, учитывая все опасения по поводу безопасности. «Честно говоря, я считаю, что с учётом всего происходящего вокруг темы безопасности сейчас был бы неудачный момент для IPO, и мы не чувствуем никакого давления по этому поводу, — сказал Альтман. — Эта неделя, очевидно, стала неделей, когда гораздо больше людей начали серьёзно осмыслять стоящие перед нами проблемы. Этот разговор давно назрел, и мы явно входим в область чрезвычайно мощных моделей, высоких ставок и необходимости не ошибиться».
Реакция индустрии
В посте в X Амодеи сообщил, что Anthropic предоставит независимым экспертам «постоянный доступ к нашим системам на уровне сотрудников компании, чтобы они могли проверять соблюдение мер безопасности, сообщать об инцидентах и оценивать степень выравнивания моделей в процессе обучения».
Вскоре после публикации поста Амодеи глава SpaceX Илон Маск написал в X: «Дарио прав». Маск был одним из сооснователей OpenAI, а позже основал собственную ИИ-компанию xAI, которая теперь входит в структуру SpaceX.
Альтман также написал в X, что согласен с Амодеи относительно необходимости замедления темпов. «Взять на себя обязательство предоставить независимым экспертам доступ на уровне сотрудников — отличная идея, мы сделаем то же самое», — написал он, пообещав вскоре раскрыть подробности.
Сакс, в свою очередь, поздно вечером в субботу написал в X, что участие государства не требуется, если OpenAI и Anthropic — две компании, которые считаются лидерами отраслевого развития, — согласятся координировать действия самостоятельно.
Он также добавил: «Хватит делать вид, что вам нужно чьё-то разрешение. Вперёд, задавайте темп на передовой сами. Именно вы его и устанавливаете».
Некоторые крупные инвесторы в сфере ИИ поддержали позицию Амодеи. «Нам нужно защищать конкуренцию в сфере ИИ, но это важный шаг к поиску правильного баланса между скоростью, саморегулированием и безопасностью», — написал в X управляющий хедж-фондом и венчурный инвестор Брэд Герстнер.
Дискуссия в Вашингтоне
Дискуссия набирает обороты и в Вашингтоне. Спикер Палаты представителей Майк Джонсон (республиканец, Луизиана) заявил, что Конгрессу стоит проявлять осторожность, прежде чем вводить регулирование ИИ.
По его словам, механизмы защиты должны разрабатываться совместно с самими компаниями; он также сообщил, что обсуждал с Трампом идею собрать всех ведущих глав ИИ-компаний на одной встрече для координации адекватных мер. Ранее руководители компаний редко демонстрировали полное единство по вопросам возможного регулирования ИИ.
«Ребята, которые призывают к этому, — это как раз те, кто двигает границы технологии вперёд, — заявил Джонсон в воскресенье в эфире CNN, в программе State of the Union. — Если они хотят притормозить — пожалуйста. Но при этом нам нужно одновременно удерживать Конгресс от того, чтобы он вмешался и ввёл своего рода экстренный мораторий».
Лидер демократического меньшинства в Палате представителей Хаким Джеффрис (демократ, Нью-Йорк) заявил, что Конгрессу необходимо срочно действовать, чтобы снизить риски, связанные с ИИ.
«Нам следует уже сейчас предпринять решительные действия, чтобы замедлить» развитие технологии, — сказал он в воскресенье в эфире ABC, добавив, что во вторник у демократов запланировано совещание, где тема ИИ станет одним из приоритетов.
Джеффрис не уточнил, поддержит ли он инициативу сенатора Берни Сандерса (независимый, Вермонт), предложившего попытаться запретить создание суперинтеллекта — систем, превосходящих по способностям самых одарённых людей.
Бывший президент Барак Обама на частном сборе средств в четверг вместе с Джеффрисом призвал демократов выработать стратегию с разумными механизмами защиты, чтобы максимально использовать преимущества ИИ и предотвратить катастрофу. «Это технология, которая развивается очень быстро в частных руках, и если мы не возьмём ситуацию под контроль, это может быть опасно», — заявил Обама, по данным его офиса.
