Дэрио Амодей разъяснил позицию Anthropic

В течение нескольких дней после того, как Nvidia и ряд технологических компаний подписали открытое письмо против «поспешных ограничений» open-weights моделей, CEO Anthropic Дэрио Амодей ответил собственным заявлением. Его позиция, изложенная в блоге и посте на X, стала самым подробным разъяснением взглядов компании на проблему открытых весовых моделей.

Почему возникли слухи о поддержке запрета?

Поводом для спекуляций стало то, что Anthropic не присоединилась к письму Nvidia, Microsoft, Meta, Mistral и других компаний, поддерживающих открытые модели. Учитывая, что основной конкурент OpenAI строит бизнес на закрытых моделях, амбивалентность Anthropic породила неоднозначные интерпретации.

Кроме того, на прошлой неделе появились сообщения о том, что администрация США рассматривает возможность запрета китайских open-weights моделей. Учитывая позицию Anthropic по китайской политике, наблюдатели предположили, что компания лоббирует более широкие ограничения. Амодей назвал эти предположения неточными.

Что Амодей поддерживает вместо запрета?

Три конкретные меры: контроль экспорта ведущих чипов в авторитарные страны, запрет на промышленную дистилляцию (массовый перенос возможностей из более мощных моделей в открытые) и обязательное тестирование безопасности для всех моделей с достаточными возможностями — открытых и закрытых. По словам Амодея, эти меры направлены на снижение рисков, а не на устранение конкуренции.

«Open-weights модели, не обладающие опасными возможностями, — это общественное благо», — написал Амодей. Это принципиальная оговорка: Anthropic не выступает против открытых моделей как таковых, а против сценария, при котором открытые модели могут быть использованы авторитарными режимами для создания систем, превосходящих американские аналоги.

Почему проблема именно в авторитарных режимах?

Центральный аргумент Амодея — асимметрия рисков. Открытые модели опасны не в руках обычных пользователей или бизнеса, а в руках «авторитарных правительств», которые могут использовать их для «постоянного военного превосходства» и подавления собственного населения. В отличие от демократических стран, где можно применять guardrails и мониторить использование, в авторитарном контексте подобные ограничения не работают.

Критики этого подхода отмечают, что одновременно призывать к международному соглашению с Китаем по AI-безопасности и при этом поддерживать экспортные ограничения — внутренне противоречиво. Аналитик Рохит Кришнан обратил внимание на то, что требовать от Китая «не использовать open-weights модели» и одновременно продавать ему чипы — это разные политики. О деталях дискуссии о frontier AI и регулировании мы рассказывали в материале об AMD Helios.

Как индустрия отреагировала?

Реакция была неоднозначной. Jensen Huang впервые опубликовал пост на X, призывая не вводить ограничения. Nvidia, Microsoft, Meta, Mistral и Hugging Face подписали письмо против «поспешных ограничений». OpenAI сначала не подписывала, но позже присоединилась. Anthropic не присоединилась, что ряд комментаторов счёл признаком корпоративного эгоизма — позиция, выгодная закрытым моделям.

Amodey’s response was notably more measured than the criticism. He acknowledged that businesses using open-weights models from China are not his primary concern — the real risk lies with state actors. He also clarified that Anthropic hasn’t advocated for banning open-weights models as a category, only for targeted controls on the most dangerous applications. Это важное уточнение, которое многие пропустили при первом прочтении. О конкретных примерах того, как AI уже применяется в enterprise-сегменте, читайте в материале о суде Apple и OpenAI.