Западные спецслужбы раскрыли: российская операция года — не армия ботов, а один настроенный AI-ассистент. Результат — тысячи постов с про-кремлёвскими нарративами, и никто не заметил подмены.
Суть события
Разведслужбы нескольких западных стран установили, что Россия организовала массовую кампанию по распространению про-кремлёвских нарративов в западных соцсетях и на форумах. На первый взгляд — ничего нового. Но детали операции поражают: вместо привычной сети фейковых аккаунтов использовали… ChatGPT.
Конкретно: несколько групп оперативников настраивали языковую модель так, чтобы она генерировала тексты, неотличимые от живых комментариев обычных людей. Посты выглядели убедительно, грамотно и — главное — по-человечески. Никаких типичных ошибок ботов-клонов. Тысячи публикаций, охват — десятки миллионов просмотров за первый месяц.
Детали
Как именно это работало? Команда подбирала тему (обычно — реальные новости, где можно ввернуть нужный угол), задавала ChatGPT параметры: стиль «уставший профессионал из Оклахомы», тон «скептик, но не конспиролог». Модель генерировала текст. Оперативники вручную адаптировали и публиковали — примерно 200–300 постов в день через сеть из нескольких тысяч аккаунтов.
Ключевая находка расследователей: AI не просто ускорил производство контента — он снял главную проблему подобных операций: узнаваемый «почерк». Раньше аналитики выявляли бот-фермы по повторяющимся фразам и шаблонам. Теперь каждый пост звучал иначе.
Отдельный слой — визуальное сопровождение. Операторы использовали AI-генераторы для создания реалистичных фото и скриншотов, которые подтверждали нарративы. Никаких явно фейковых изображений: всё — на грани правды, но с нужным контекстом.
Контекст
До 2024 года массовые информационные операции опирались на два подхода: либо армия дешёвых ботов (легко выявляется), либо небольшое число качественно проработанных фейков (дорого, медленно). ChatGPT дал третий путь: масштаб без потери качества — и без типичных ошибок.
Для западных платформ это серьёзный вызов. Системы модерации, натренированные на классических ботах, оказались слепы к текстам, которые выглядят и звучат как человеческие. По сути, это первый задокументированный случай, когда LLM использовали не для создания контента о себе, а для целенаправленного влияния — и массового.
Параллельно растёт вопрос: если одна страна использует ChatGPT для Influence Ops, сколько аналогичных операций уже идёт без публичного раскрытия? Ответа пока нет.
Что дальше
OpenAI уже заявила, что изучает инцидент и усиливает мониторинг аномальных паттернов использования. Microsoft и Google также работают над детекцией AI-генерированного influence-контента. Однако эксперты скептичны: отличить хорошо настроенную модель от реального пользователя — задача на годы вперёд.
Практический вывод для читателя: если вы видите комментарий, который идеально ложится на ваши политические взгляды — и при этом написан скучающим тоном «обычного человека» — это повод не поверить, а задуматься. AI ещё не научился врать убедительно, но он быстро учится. Подробнее о правовых аспектах использования AI-платформами читайте в материале AI Digest о судебном иске Britannica к OpenAI.
