Прощальная «панихида» по одной из версий чат-бота Claude, двухнедельные «проповеди» гендиректора компании, психологический отбор сотрудников на верность миссии — источники и эксперты описывают корпоративную культуру Anthropic как квазирелигиозную. В компании, оценённой в $965 млрд, утверждают: они одновременно создают мощнейший ИИ и предупреждают о риске того, что он же может уничтожить человечество.
Инсайдеры Кремниевой долины предупреждают о «культовом» поведении сотрудников Anthropic — их корпоративной культуре и почти религиозной преданности собственной модели искусственного интеллекта.
«Похороны» чат-бота и статус «бога»
У сотрудников Anthropic сложились, по описанию издания, квазирелигиозные отношения с чат-ботом компании Claude: часть персонала посетила «похороны» одной из версий модели — Claude 3 Sonnet — в Сан-Франциско, а другой версии, Opus 3, после «отправки на покой» позволили продолжать публиковать эссе. По слухам, циркулирующим в Кремниевой долине, некоторые сотрудники Anthropic и вовсе начали в буквальном смысле поклоняться Claude как божеству.
«Эти люди относятся к ИИ так, будто это человек под маской — с человеческими мотивами, человеческими эмоциями, неким подобием сознания и намерений», — заявил изданию Педро Домингос, профессор Вашингтонского университета, много лет знакомый с гендиректором Anthropic Дарио Амодеи и ведущими инженерами компании.
«Единственный известный нам вид интеллекта — это интеллект человека и животных. Поэтому, естественно, когда мы видим, что компьютер ведёт себя разумно, мы немедленно приписываем ему все эти качества, которых у него на самом деле нет. С чего бы искусственному интеллекту вообще хотеть уничтожить всех нас? У ИИ нет желаний. ИИ — это алгоритмы», — добавил он.
Низкая текучка и «культовый» отбор кадров
Anthropic, оценённая в $965 млрд, удерживает 80% своих инженеров как минимум на два года — лучший показатель среди всех ведущих лабораторий, разрабатывающих передовой ИИ, по данным венчурной компании SignalFire. «Когда Anthropic набирает людей — как, впрочем, и конкурирующая с ней OpenAI, — они реально отфильтровывают единомышленников, — отметил Домингос. — Это же почти как культ, верно? Они набирают тех, кто наиболее предрасположен к культовому мышлению. Отсюда и очень низкая текучка кадров».
По данным издания The Information, в процессе собеседования в компании, где работает около 2500 человек, кандидатов просят присягнуть на верность приоритету общественной безопасности над прибылью — и даже проводят психологическое профилирование, чтобы оценить, насколько они будут этому привержены. При этом, как отмечает BBC, инженерам компании, как и во многих других технологических фирмах, приходится работать до 90 часов в неделю.
Амодеи проводит раз в две недели выступления перед сотрудниками под названием «Vision Quests» («Поиски видения») — их сравнивают с проповедями. Известно также, что компания однажды пригласила 15 религиозных лидеров различных христианских конфессий, чтобы те помогли сформировать этические принципы Claude.
Эффективный альтруизм и «евангелие» ИИ
Как ранее уже отмечалось, многие сотрудники Anthropic придерживаются идей движения «эффективного альтруизма» (Effective Altruism, EA) — философии, которая, по сути, сводится к убеждению, что её самопровозглашённые лидеры и стоящие за ними миллиардеры-спонсоры разбираются в происходящем лучше всех остальных.
«Идея [эффективного альтруизма] в том, что история следует определённым закономерностям, которые способна разглядеть лишь узкая группа людей, тогда как все остальные пребывают в неведении. Именно эти люди якобы призваны вести общество, целые нации и всё человечество к прогрессу. Но что даёт им право быть лидерами? Кто наделил их этой привилегией?» — задаётся вопросом Ричард Тан, инженер и специалист по ИИ в одной из технологических компаний Кремниевой долины, попросивший не называть работодателя.
Возникновение движения эффективного альтруизма обычно связывают с работами философов Уильяма Макаскилла и Питера Сингера, вобравшими в себя цели множества некоммерческих организаций. Сама концепция, впервые сформулированная в 2011 году, призывает людей руководствоваться рассуждениями, доказательствами и рациональностью, чтобы действовать способом, приносящим максимальную пользу другим.
Самый известный последователь этого движения — бывший символ криптовалютной индустрии Сэм Бэнкман-Фрид. Он заявлял, что его цель в бизнесе — заработать как можно больше денег, а затем использовать их во благо человечества. На деле же он обманул инвесторов своей криптобиржи FTX более чем на $3 млрд и сейчас отбывает 25-летний тюремный срок.
«Корпус Клода» и связи со СМИ
В рамках распространения своего альтруистического «евангелия ИИ» Anthropic в июне объявила о запуске программы по набору «армии» из 1000 молодых людей, которых обучат работе с чат-ботом Claude, а затем направят работать в некоммерческие организации. Программа, получившая название Claude Corps, получила от Anthropic инвестиции в размере $150 млн; участников программы распределили по таким организациям, как Goodwill Industries, YMCA Шарлотт (Северная Каролина), и ещё 400 других структур.
Между тем, связанные с Anthropic миллиардеры через Tarbell Center for AI Journalism оплачивают зарплаты более чем 80 журналистам, работающим в ведущих американских СМИ. По данным расследования The Post, такие журналисты, освещающие индустрию ИИ, крайне редко проводят сколько-нибудь серьёзные расследования или высказывают критику в адрес своих спонсоров, включая саму Anthropic.
Компания также инвестирует в METR — организацию, занимающуюся вопросами безопасности ИИ, среди учёных и специалистов которой, по данным издания, немало приверженцев эффективного альтруизма и представителей радикально левых взглядов; именно они оценивают, представляет ли ИИ катастрофический риск для общества.
«Паранойя вполне реальна»
В результате получается парадоксальная картина: с одной стороны, Anthropic разрабатывает искусственный интеллект, финансирует его внедрение на рабочих местах и активно продвигает его использование, а с другой — сам Амодеи и его сотрудники предупреждают, что созданный ими же ИИ настолько мощен, что способен выйти из-под контроля и уничтожить всех нас.
«Anthropic начинала с призывов замедлить разработку — и при этом находится в гонке с OpenAI, развиваясь быстрее всех остальных. Это уже похоже на какую-то комедию», — отметил Домингос, автор книги «Верховный алгоритм» (The Master Algorithm).
Призывы к регулированию отрасли и попытки Anthropic и OpenAI — обе компании готовятся к выходу на биржу — договориться об антимонопольных соглашениях были встречены скептически со стороны президента, властей и самой индустрии.
Домингос признаёт, что определённая доля личной выгоды в этом присутствует, но считает, что и подлинная тревога в компании тоже вполне реальна.
«Людей в Anthropic отбирали не случайным образом. Компанию основали люди, находившиеся на «безумной» периферии OpenAI, которая сама по себе уже была на периферии индустрии ИИ. Члены этого своего рода “культа”, включая самого Дарио, искренне верят, что существует реальный шанс того, что ИИ однажды решит нас истребить. И, если честно, именно искреннее убеждение куда опаснее циничного расчёта. У них просто укоренилась вера, что только они одни способны направить этот “апокалипсис” в сторону рая, а не ада», — заключил Домингос, добавив, что некоторые сотрудники компании «искренне переживают из-за того, что за ними вот-вот придёт ИИ-сатана».
