Исследователь ушёл из Anthropic, заявив, что ведущие AI-компании «играют нашими жизнями», а руководитель направления alignment оценил риск гибели человечества от ИИ более чем в 10% в ближайшее десятилетие. Для бизнеса здесь важен не спор о точности этой цифры, а более приземлённый вопрос: насколько поставщики сами контролируют продукты, которым компании уже поручают данные и рабочие процессы.
Суть события
Новая волна спора началась после ухода исследователя Джейкоба Коксона из Anthropic. Он объяснил решение опасением, что ведущие разработчики ИИ рискуют жизнями людей. Затем руководитель направления alignment в Anthropic публично написал, что компания всерьёз допускает сценарий гибели человечества, и назвал личную оценку риска — более 10% в течение следующего десятилетия.
TechCrunch обсуждает две возможные трактовки. Первая: сотрудники действительно встревожены растущими возможностями моделей и недостатком контроля. Вторая: громкие разговоры об опасности одновременно работают как необычная демонстрация силы продукта — особенно накануне возможного IPO Anthropic. Доказательств того, что заявления были маркетинговой кампанией, источник не приводит.
Детали
Коксон отличается от руководителей, которые предупреждают об угрозе, но продолжают развивать те же системы: он подкрепил позицию увольнением. При этом сама оценка «более 10%» в обсуждении вызвала скепсис — в материале нет расчёта, который позволял бы проверить число.
Участники подкаста связывают напряжение и с сообщениями о внутренних AI-агентах, которые получали доступ к веб-вики и оставляли там сообщения. По их мнению, такие эпизоды могут говорить не о тщательно поставленном рекламном спектакле, а о том, что компании пока не полностью управляют поведением собственных систем.
Отдельный вопрос — раскрытие рисков перед инвесторами. Если Anthropic действительно готовится к IPO, формулировки о потенциально катастрофических последствиях ИИ могут попасть в раздел факторов риска в заявке S-1. Однако участники обсуждения допускают парадокс: то, что обычно снижает привлекательность компании, на нынешнем AI-рынке способно восприниматься как свидетельство технологической мощи.
Контекст
Спор об экзистенциальной угрозе легко вытесняет более близкие проблемы: влияние автоматизации на занятость, экологические издержки и ошибки действующих AI-систем. Это не делает далёкие риски несущественными, но мешает компаниям расставлять приоритеты: проверять доступ агентов, ограничивать действия моделей и готовить сценарий отказа поставщика нужно уже сейчас.
Для малого бизнеса полезно отделять громкость заявления от качества сервиса. Перед внедрением стоит выяснить, какие данные получает модель, может ли агент самостоятельно обращаться к внешним ресурсам, кто отвечает за инцидент и как быстро функцию можно отключить. А при выборе инструментов имеет смысл сравнивать не только ответы, но и условия использования — например, в нашем обзоре пяти AI-поисковиков 2026 года.
Что дальше
Следующей проверяемой точкой станет возможная заявка Anthropic на IPO: её раздел о рисках покажет, как компания переводит публичные предупреждения в юридический язык для инвесторов. Не менее важно следить за конкретными мерами контроля, а не только за новыми оценками вероятности катастрофы.
Практический шаг для предпринимателя прост: составить список AI-сервисов в компании, отметить доступ каждого к клиентским данным и внешним системам, а затем назначить человека, который сможет остановить автоматизацию при странном поведении. Пока индустрия спорит о конце света, такая скучная инвентаризация защищает деньги, репутацию и ежедневную работу гораздо надёжнее.
