Белый дом и Anthropic вместе разрабатывают правила безопасности для новых ИИ-моделей

Белый дом и Anthropic вместе разрабатывают правила безопасности для новых ИИ-моделей

Что произошло

Администрация президента США совместно с компанией Anthropic работает над созданием регуляторных механизмов, которые позволят правительству вмешиваться в распространение ИИ-моделей в случае обнаружения серьёзных угроз для национальной безопасности. Об этом сообщило издание Politico со ссылкой на участников переговоров. Цель — выстроить системную процедуру анализа уязвимостей ещё до выпуска новых моделей в обращение.

Какие механизмы обсуждаются

Речь идёт о нескольких ключевых элементах. Во-первых, стандартная процедура анализа рисков, которую должна проходить каждая новая модель перед выходом на рынок. Во-вторых, регулярное взаимодействие между разработчиками и правительственными структурами — фактически постоянный канал обмена информацией об угрозах. В-третьих, механизм экстренного вмешательства: если у властей есть основания считать, что модель представляет угрозу, они смогут ограничить её распространение.

Подобная схема особенно актуальна на фоне недавних инцидентов с моделями Anthropic. Неделю назад стало известно, что южнокорейский партнёр SK Telecom получил доступ к Claude Mythos, а у SK Group ранее была доля в китайской China Unicom. Параллельно специалисты Amazon и пяти других компаний обнаружили в Fable 5 уязвимости, позволяющие обходить защитные ограничения — включая потенциальную возможность использования модели для разработки биологического оружия. В итоге правительство настояло на закрытии доступа к двум моделям Anthropic для иностранных граждан, но сделать это избирательно не удалось — доступ пришлось перекрыть для всех. Подробнее об этом мы писали в материале о том, как США запретили иностранный доступ к самым мощным моделям Anthropic.

Почему правительство решило вмешаться

До сих пор взаимодействие между AI-разработчиками и властями США строилось на добровольной основе. Компании сами решали, какие модели отправлять на аудит и какие уязвимости раскрывать. После серии инцидентов с Fable 5 и Mythos стало ясно, что добровольной модели недостаточно. Инцидент с SK Telecom показал, что даже партнёры компаний могут оказаться каналом утечки чувствительных технологий в нежелательные руки.

Сейчас речь не идёт о запрете моделей — речь идёт о механизме, при котором правительство сможет реагировать заранее, а не постфактум. Это принципиально другой подход, который может стать основой для будущего регулирования AI в США. Схожие дискуссии ведутся и в Европе, где регуляторы уже требуют от OpenAI документы по всем направлениям деятельности.

Чем новая схема отличается от прошлых инициатив

Ранее Трамп отменил подписание федерального указа об AI-безопасности после звонков со стороны крупных технологических лидеров — Илона Маска, Марка Цукерберга и Дэвида Сакса. Это показало, что индустрия способна блокировать регуляторные инициативы на самом высоком уровне. Нынешняя схема отличается тем, что разрабатывается не в виде отдельного указа, а как постоянно действующий механизм взаимодействия.

Anthropic, в отличие от других крупных разработчиков, исторически поддерживает идею более жёсткого регулирования. Компания неоднократно публично заявляла, что готова раскрывать уязвимости и подвергать свои модели независимому аудиту. Сотрудничество с Белым домом — это логичное продолжение этой позиции. Ранее мы писали о рисках, которые несут новейшие модели Anthropic — теперь эти риски пытаются системно закрыть на государственном уровне.

Что это значит для индустрии

Если схема заработает в том виде, как обсуждается сейчас, она станет первым прецедентом постоянного регуляторного контроля над AI-моделями в США. Это затронет всех крупных разработчиков — OpenAI, Google, Meta и других. Каждый релиз новой модели потребует предварительного анализа рисков, а в случае серьёзных угроз правительство сможет вмешаться ещё до выхода модели на рынок. Для одних компаний это дополнительная нагрузка, для других — способ снять с себя ответственность за возможные последствия.

Что дальше

Переговоры между Белым домом и Anthropic продолжаются. Конкретные сроки запуска механизма пока не называются. Однако сам факт публичного обсуждения и участие одной из ведущих AI-компаний в разработке правил — это серьёзный сигнал: эпоха полностью саморегулируемой AI-индустрии в США подходит к концу. Следующие месяцы покажут, насколько глубоко новая схема будет интегрирована в процесс выпуска моделей и какие компании присоединятся к инициативе.

AI Digest (ai-digest.ru) — актуальные новости, статьи и гайды об искусственном интеллекте.