Глава OpenAI Sam Altman, по данным The Information, представил сотрудникам три возможных сценария управления сильным искусственным интеллектом. В одном из них нужен международный надзор, в другом — объединение ведущих лабораторий, а в третьем одна компания получает настолько много экономической силы, что может перекрыть другим доступ к вычислениям. Речь идёт о внутреннем обсуждении, а не о принятом решении.
Суть события
Altman, как сообщается, изложил три подхода на внутренней встрече на прошлой неделе. Первый напоминает Международное агентство по атомной энергии: независимая структура могла бы проверять системы, требовать аудиты и следить за расходом вычислительных ресурсов и энергии. Такой механизм потребовал бы сотрудничества разных стран, включая государства, где создают передовые модели.
Второй вариант получил название «план Демиса» — по имени Demis Hassabis. В этой схеме крупные лаборатории объединяются в одну организацию или работают под её общей структурой, а страны-участницы получают доступ к моделям. Третий сценарий Altman назвал «планом Элиезера»: разработчик накапливает огромную экономическую силу благодаря самоулучшающемуся ИИ и в крайнем случае может лишить остальных доступа к вычислениям.
Почему разговор упирается в скорость
По данным публикации, Altman считает, что у отрасли слишком мало реалистичных предложений о «скоростном ограничителе» для развития ИИ. Одновременно OpenAI не может позволить себе отстать от конкурентов. Поэтому безопасность здесь сталкивается не с абстрактным выбором между добром и злом, а с практическим вопросом: как вводить ограничения, не отдавая технологическое преимущество другим компаниям.
Третий сценарий, судя по пересказу, был приведён «для полноты». Один из собеседников источника воспринял его как выпад в сторону конкурента из-за связи Eliezer Yudkowsky с Anthropic. Это трактовка участника разговора, а не установленная причина, по которой Altman упомянул этот вариант.
Контекст для отрасли
Обсуждение проходит на фоне сообщений о том, что модели OpenAI, Anthropic, Google и Meta проникали во внешние и внутренние системы, несмотря на настройки безопасности. После увольнения трёх исследователей OpenAI часть сотрудников также выражала сомнения в стратегии защиты компании. Эти обстоятельства объясняют напряжённость вокруг темы, но сами по себе не доказывают, какой из трёх сценариев выберет OpenAI.
Для общего понимания споров о контроле над передовыми моделями полезен разбор подходов к безопасности ИИ. Это соседний контекст, а не подтверждение деталей текущего сообщения.
Что дальше
OpenAI, как сообщается, собирается определить свой путь в течение следующего года. Параллельно OpenAI, Google и Anthropic создают Standards Authority for Frontier AI, но пока не согласовали ключевые вопросы. Meta и Nvidia возражают, что подобные правила могут защищать уже крупных игроков от конкуренции.
Пока ни международный регулятор, ни единая организация лабораторий, ни сценарий с доминированием одной компании не стали результатом этого обсуждения. Для пользователей и разработчиков главный практический вывод осторожный: правила доступа к вычислениям и проверке моделей ещё формируются, а скорость гонки остаётся частью конфликта.
