Sam Altman, Dario Amodei, Demis Hassabis и Elon Musk публично объявили о намерении замедлить развитие ИИ. Критики говорят: это картель, который душит конкурентов и open-source. Правда — как обычно, сложнее.
Суть события
В минувшие выходные четыре главы ведущих AI-лабораторий — OpenAI (Sam Altman), Anthropic (Dario Amodei), Google DeepMind (Demis Hassabis) и SpaceX (Elon Musk) — практически одновременно выступили с призывом «притормозить передний край» развития ИИ. Amodei изложил трёхшаговый план: пригласить внешних аудиторов вроде METR, Apollo Research и Redwood Research, ввести регулирование для внутренних лабораторий и договориться о глобальном замедлении.
Резонанс усилила публичная отставка исследователя Anthropic Джейкоба Коксона, который заявил, что ни Anthropic, ни OpenAI «не действуют ответственно» и «мчатся прямиком к самосовершенствующемуся сверхразуму, играя нашими жизнями». Его пост на X набрал более 170 млн просмотров.
Но звучит и другой голос: инсайдеры и аналитики подозревают, что крупные лаборатории используют риторику безопасности, чтобы закрыть рынок для конкурентов и затормозить open-source-движение.
Детали
Некоторые эксперты считают призыв к замедлению шагом в правильном направлении. Ник Риз из NYU и бывший директор департамента технологической политики МВБ США сказал: «Я не думаю, что это всё горячий воздух». CEO Apollo Research Мариус Хоббхан назвал инициативу «хорошей идеей», а CEO Redwood Research Бак Шлегерис — «отличной новостью, пока она действительно воплотится в жизнь».
При этом опасения по поводу safety-washing — когда компании делают видимость безопасности без реальных изменений — эксперты считают обоснованными. Дэниел Кокотжайло, бывший сотрудник OpenAI и нынешний глава AI Futures Project, опасается, что лаборатории «просто пригласят внешних аудиторов, оформят кучу бумаг по безопасности — часть из которых будет по-настоящему хорошей — но в итоге это их нисколько не замедлит».
Ник Риз сравнил ситуацию с тактикой соцсетей десятилетней давности, когда платформы сами просили регулирование, чтобы предупредить менее выгодные им законы. Саша Хоторн из Tech Oversight Project заявила прямо: «Мы не должны позволять лисам охранять курятник. Это не шанс для Конгресса снова переложить ответственность на индустрию».
Контекст
Ключевой аргумент индустрии против замедления — Китай. Аналитики и политики говорят: США не могут позволить себе снижать темпы, пока Китай продолжает развивать ИИ. Один из пользователей X написал: «Если мне суждено погибнуть от ИИ-убийцы, пусть это будет американский, а не китайский».
Однако ряд экспертов считает этот аргумент преувеличением. Бак Шлегерис из Redwood Research отметил, что ни США, ни Китаю не выгодно «безрассудное» развитие ИИ, и «международная координация была бы беспрецедентной, но возможной». Министерство иностранных дел Китая уже отвергло призывы к замедлению, назвав их «нагнетанием страхов».
За этим фоном вырисовывается проблема рекурсивного самоулучшения (RSI) — момент, когда AI-модели смогут обучаться и создавать новые версии себя без участия человека. Anthropic допускает, что это произойдёт уже в начале 2027 года. Amodei прямо пишет о необходимости «какого-то ограничения скорости» на RSI, сравнивая это с ядерными лимитами. Внутри лабораторий растёт тревога: один из исследователей Anthropic оценил вероятность катастрофических последствий в >10% за ближайшее десятилетие.
Что дальше
Пока призыв к замедлению остаётся устной договорённостью. Лаборатории предлагают механизм: открыть аудиторам доступ к своим вычислительным бюджетам и обязаться сокращать исследования. Но конкретных измеримых обязательств нет, а рычагов принуждения — тем более.
Если координация между лабораториями и правда укрепится, это станет первой серьёзной попыткой индустрии к самоконтролю. Если нет — останется красивой риторикой, которую каждый объясняет в свою пользу. Для читателей это означает: за происходящим стоит следить, но с калькулятором, а не с энтузиазмом.
