Дарио Амодей призвал «сдерживать темп на переднем крае» ИИ и описал три уровня действий: независимый контроль внутри компаний, общие правила для лидеров рынка и международные договорённости. Anthropic обещает начать с первого шага самостоятельно.
Суть события
Генеральный директор Anthropic Дарио Амодей заявил, что разработчикам необходимо замедлить рост возможностей самых передовых ИИ-моделей. Прогресс, по его словам, всё равно останется быстрым, но выигранное время следует потратить на безопасность.
Это не призыв полностью остановить исследования. Амодей предлагает контролировать скорость «непроверенного» прогресса и одновременно создать механизмы, которые позволят увидеть нарушения и инциденты не только изнутри компании.
Детали
Первый шаг — допустить в ИИ-компании независимых специалистов, например из организации METR. Они должны получить пропуска, рабочие места, ноутбуки и доступ, в основном сопоставимый с доступом внутренних команд оценки рисков. Их задача — проверять выполнение обещаний по безопасности и следить за сообщением об инцидентах. Anthropic, по словам Амодея, берёт такое обязательство на себя и предлагает властям потребовать того же от других разработчиков передовых моделей.
Второй уровень — координация ведущих ИИ-компаний демократических стран: единые стандарты безопасности и ограничения скорости неконтролируемого развития. Из-за антимонопольных рисков Амодей предлагает правительству США посредничать в таких переговорах или выдать узкое разрешение на обсуждение безопасности.
Третий уровень — международная координация, включая ограниченное сотрудничество с Китаем. Даже при серьёзных политических разногласиях стороны, считает Амодей, могли бы запретить отдельные очевидно опасные применения, например использование ИИ для создания биологического оружия.
Контекст
Поводом для более осторожной позиции Амодей назвал резкое ускорение ИИ, особенно растущую способность систем помогать создавать следующее поколение моделей, а также атаку, связанную с OpenAI и Hugging Face. Дискуссия обострилась и после ухода исследователя Джейкоба Коксона из Anthropic: он публично выразил тревогу из-за рисков передовых систем.
У подхода есть критики. Они считают апокалиптические сценарии недостаточно доказанными и опасаются, что сложные требования закрепят преимущество Anthropic и OpenAI — то есть приведут к регуляторному захвату. Для рынка это ключевое напряжение: реальный контроль может снизить риск инцидентов, но дорогой входной билет способен усилить крупнейших игроков. Похожий вопрос о координации отрасли уже возникал, когда OpenAI предложила обсудить общее замедление ИИ.
Для фрилансеров, удалённых команд и отделов продаж немедленной остановки привычных сервисов из заявления не следует. Но B2B-покупателям стоит заранее спрашивать поставщиков об отчётности по инцидентам, независимых проверках и правилах обновления моделей: эти пункты могут влиять на сроки внедрения, стоимость соответствия требованиям и выбор подрядчика.
Что дальше
Проверяемый следующий шаг — появятся ли независимые оценщики внутри Anthropic и какой доступ они реально получат. Затем станет ясно, поддержат ли власти обязательный формат для остальных компаний и дадут ли участникам рынка правовую возможность обсуждать общие стандарты без антимонопольного риска.
Пока инициатива остаётся планом, а не отраслевым соглашением. Амодей признаёт пределы глобальной координации, но настаивает: потенциальная польза ИИ оправдывает необычно осторожный темп, если выигранное время действительно пойдёт на контроль, а не просто на укрепление позиций лидеров.
