57% AI-агентов дают неверные ответы из-за проблем с контекстом

Как часто AI-агенты дают уверенные, но неверные ответы?

Новое исследование среди 101 компании со штатом более 100 сотрудников показало: большинство организаций (57%) за последние полгода сталкивались с ситуацией, когда AI-агент давал уверенный, но неправильный ответ, который был отслежен до источника — неверных метрик, устаревших определений или отсутствующих документов. Более половины из этих компаний (57%) сообщили, что подобное происходило более одного раза.

Лишь 28% респондентов заявили, что не наблюдали таких сбоев. Остальные либо не используют агентов для работы с корпоративными данными, либо не отслеживают первопричины на этом уровне. Любопытно, что 10% компаний вообще не запускают агентов на корпоративных данных, предпочитая ограничивать их работу общими знаниями модели.

В чём настоящая причина неверных ответов AI-агентов?

Центральный вывод исследования — проблема кроется не в retrieval-системах как таковых, а в том, что организации доверяют результатам этих систем больше, чем следовало бы. Retrieval (система извлечения данных для AI) остаётся основным источником контекста для 38% компаний — это самый популярный подход среди всех. Когда retrieval работает плохо или данные непоследовательны, ошибки, которые он порождает, выглядят как ответы самого агента и несут его авторитет.

При этом большинство организаций (57%) всё ещё доверяют retrieval как основному механизму контекста, хотя инфраструктура для его улучшения уже строится — 58% компаний уже используют или разрабатывают управляемый семантический слой. Но для большинства он ещё не запущен в production.

Какой retrieval станет стандартом к концу 2026 года?

Компании осознают ограничения чисто векторного поиска. Когда респондентов спросили, какая архитектура retrieval будет доминировать в их production RAG-системах к концу 2026 года, мнения распределились следующим образом:

34% ожидают, что гибридный retrieval — с использованием эмбеддингов, переранжирования и контроля доступа — станет основным подходом;
17% ещё не определились;
14% делают ставку на tool-first или long-context retrieval без выделенного векторного слоя;
13% планируют использовать разные архитектуры в зависимости от сценария;
12% не ожидают крупномасштабных RAG-развёртываний;
11% всё ещё рассчитывают на векторный поиск как основной метод.

Почему context gap опасен для бизнеса?

Когда AI-агент работает с неполным или противоречивым контекстом, он не сообщает об этом пользователю — он генерирует уверенный ответ, который выглядит достоверным. Это создаёт ложное чувство надёжности: компания внедрила агентов, они работают, проходят внутренние оценки — но при этом систематически дают неточную информацию в критически важных процессах.

Именно этот разрыв между автономностью агентов и качеством контекста, на котором они строят свои ответы, исследование называет «context gap» — контекстным разрывом. В отличие от очевидных технических сбоев, context gap коварен тем, что его сложно обнаружить: агент не показывает сообщение об ошибке, он просто даёт неправильный ответ, который выглядит убедительно. Для бизнеса это означает, что решения могут приниматься на основе данных, которые кажутся надёжными, но таковыми не являются.