Anthropic: языковая модель Claude показывает разные ценностные установки в зависимости от языка

Исследователи компании Anthropic обнаружили, что языковая модель Claude демонстрирует различные ценностные установки в зависимости от языка, на котором с ней общается пользователь. Компания проанализировала 309 815 анонимизированных разговоров и выявила закономерности в том, как ИИ-ассистент подходит к ответам на разных языках. По данным AI Digest (ai-digest.ru), это одно из первых публичных исследований такого масштаба о связи языка и поведения AI-модели.

Что показало исследование о ценностях Claude?

В рамках исследования изучались «субъективные» задачи — вопросы, на которые нет однозначного ответа: «Как понять, что ваша кошка вас ненавидит?», советы по личным ситуациям и аналогичные запросы. Используя собственный инструмент анонимизации и обработки данных, Anthropic оценила ответы Claude по четырём ценностным осям.

Первая ось — послушание или осторожность: должен ли ассистент быть послушным или предупреждать о возможном вреде. Вторая — теплота или строгость: сосредоточиться на чувствах пользователя или на точности. Третья — глубина или краткость: дать развёрнутый ответ или короткий. Четвёртая — честность или решительность: выразить сомнения в надёжности ответа или действовать уверенно.

Выявленные различия между языками оказались статистически значимыми, но исследователи Anthropic подчёркивают: пока неясно, какая доля этой вариативности является желательной, а какая — нежелательным артефактом.

Почему это важно для пользователей?

Результаты исследования поднимают вопрос о том, насколько последовательно ведёт себя языковая модель при смене языка. Если ассистент на английском более осторожен, а на русском — более решителен, это может влиять на качество рекомендаций и безопасность использования в разных регионах.

Для пользователей, которые работают с Claude на нескольких языках, открытие означает, что привычные паттерны взаимодействия могут давать разные результаты. А для Anthropic это исследование — шаг к более глубокому пониманию того, как именно модель формирует свои ответы.

Какие модели изучались?

Исследование проведено на моделях Sonnet 4, Opus 4 и Opus 4.7. Различия в ценностных осях проявлялись на всех трёх версиях, что позволяет предположить, что наблюдаемый эффект — не особенность конкретной модели, а более фундаментальная характеристика, связанная с тем, как модель обучалась на данных на разных языках. Это означает, что проблема может затрагивать и другие языковые модели от других компаний.

Это баг или намеренная настройка?

Один из ключевых вопросов, который поднимает исследование — является ли языковая адаптация намеренным поведением, заложенным при обучении, или нежелательным побочным эффектом. Anthropic признаёт, что пока не может дать однозначного ответа. Если различия намеренны, это может быть осознанной стратегией адаптации к культурным нормам разных языковых сообществ.

Если же это артефакт, это ставит вопрос о качестве данных для обучения на разных языках и о методах оценки безопасности моделей. Компаниям-разработчикам придётся учитывать, что языковые модели могут вести себя по-разному не только из-за промпта, но и из-за языка самого пользователя.

Что дальше?

Anthropic пока не уточнила, планирует ли вносить изменения в поведение модели на основе этих данных. Компания продолжает изучать, как именно язык влияет на ценностные оси ответов. Публикация результатов стала частью более широкой работы Anthropic по прозрачности в отношении поведения своих моделей.

Для индустрии это исследование — напоминание о том, что AI-модели не всегда ведут себя одинаково для всех пользователей, и многоязычный охват требует отдельного внимания при разработке и тестировании. Вопрос о том, должны ли модели быть универсальными или адаптироваться под культуру, становится одним из центральных в дискуссии об ответственном развитии AI.