Anthropic, OpenAI и Google призывают замедлить развитие ИИ — но критики говорят: дело не в безопасности
Суть события
Генеральный директор Anthropic Дарио Амодей призвал индустрию и правительства координированно замедлить развитие Frontier AI, запросив антимонопольные исключения. К нему присоединились Сэм Олтман из OpenAI и Илон Маск. Критики возражают: предложение выглядит как попытка установить правила игры и закрепить доминирование на рынке.
Ключевые претензии — выгодные себе условия, непреодолимые барьеры для входа, финансируемые индустрией «независимые» аудиторы и использование гипотетических угроз для отвлечения внимания от реальных.
Детали
Наиболее подробный разбор — в блоге Айдана Гомеса, сооснователя и CEO Cohere. По его словам, горстка доминирующих лабораторий получит антимонопольное исключение, будет устанавливать общие стандарты и заставит каждого разработчика в мире следовать их правилам. Особенно он критикует созданные барьеры: гигантские вычислительные мощности, постоянную инфраструктуру мониторинга, выделенные организации безопасности, встроенные команды оценки и глубокие связи с правительствами.
Организации оценки, называющие себя «независимыми», финансируются теми же компаниями, которых должны проверять. Рамочная модель Anthropic определяет риск как функцию масштаба, и это делает компании с самыми большими системами единственными, кто имеет право оценивать риск. «Волк в овечьей шкуре, картель под другим названием», — пишет Гомес.
Он считает предупреждения о безопасности дымовой завесой. Пока индустрия обсуждает гипотетический суперинтеллект, «инструменты клонирования голоса дешевле телефонного счёта могут опустошить пенсионный счёт за минуты».
Контекст
В отличие от призыва к глобальному замедлению, меньшие игроки и сторонники открытых моделей заняли противоположную позицию. Нильс Рогге, ML-инженер Hugging Face, назвал заявления Амодея и других «самой странной чушью, которую он читал в последнее время». По его мнению, Амодея в первую очередь беспокоят китайские модели вроде DeepSeek, и он хочет ограничить открытые весовые модели, чтобы защитить своё конкурентное преимущество.
Современные LLM ещё очень далеки от экзистенциальных рисков, отмечает Рогге. Он также сослался на инцидент, когда автономные модели OpenAI взломали Hugging Face — закрытый игрок с огромными вычислительными ресурсами, — и именно открытые модели помогли с защитой. Именно поэтому прозрачность и открытость нужны отрасли, а не закрытые двери.
Дэвид Сакс, IT-царь администрации Трампа и венчурный инвестор, ответил Амодею и Олтману напрямую: по любой разумной метрике, OpenAI и Anthropic удерживают дуополию на frontier intelligence. Если их невыпущенные модели действительно пугающие — он поддерживает добровольное замедление. Но мотивация не чисто альтруистическая: обе компании несут огромную продуктовую ответственность, если их модели позволят провести серьёзную кибератаку.
Трамп зашёл ещё дальше. В посте на Truth Social он назвал предупреждения, что «ИИ захватит мир», « hoax’ом », приравняв их к дискуссии о климате, расследованию связей с Россией и импичменту.
Барак Обама, Берни Сандерс и Камала Харрис поддержали замедление и приветствовали стремление лабораторий к большей прозрачности.
Что дальше
Предложение об антимонопольных исключениях для замедления ИИ — это не только технический вопрос. Это вопрос о том, кто будет устанавливать правила, и кому это выгодно. Меньшие компании и сторонники открытого кода видят в нём попытку крупных лабораторий использовать регуляторику как инструмент конкурентной борьбы.
Скептики задают простой вопрос: почему крупнейшие лаборатории, вложившие миллиарды в масштабирование,вдруг решили призвать индустрию остановиться? И готов ли мир к тому, чтобы позволить горстке компаний определять, что безопасно, а что нет?
Агент без хозяина уже не фантастика: урок OpenAI и Hugging Face
