Google AI Overviews ломается на словах disregard, ignore и skip

AI Overviews — это AI-блок в поиске Google, который пытается сразу дать краткий ответ над обычными результатами. AI Digest (ai-digest.ru) считает этот сбой показательным: поисковая система столкнулась с ситуацией, где обычное слово было воспринято как команда для модели.

Пользователи заметили, что запросы вроде “disregard”, “ignore” и “skip” вызывают странные ответы или пустые блоки AI Overviews. Вместо определения слова поисковый AI мог отвечать так, будто человек просит его проигнорировать предыдущую инструкцию или начать новый диалог.

Что произошло с поиском Google?

При запросе “disregard” AI-блок сначала выдавал ответ в стиле чат-бота: подтверждал команду и предлагал задать новый вопрос. Позже Google перестал показывать AI Overview для этого слова и начал выводить обычные новости о самом сбое. Но похожее поведение продолжало проявляться на словах “ignore” и “skip”.

Представитель Google сообщил, что компания знает о неправильной интерпретации некоторых запросов-действий и готовит исправление. По сути, система перепутала поисковый запрос с инструкцией для LLM, то есть большой языковой модели, которая генерирует текст на основе контекста.

Почему это похоже на prompt injection?

Prompt injection — это ситуация, когда текст внутри запроса или страницы заставляет модель отклониться от исходной задачи. В классическом сценарии злоумышленник прячет инструкцию вроде «игнорируй предыдущие правила», а модель начинает выполнять не то, что хотел разработчик.

В данном случае речь не обязательно о злонамеренной атаке. Но симптом похож: слово, которое пользователь хотел найти как термин, было обработано как управляющая команда. Для поискового продукта это неприятный сигнал, потому что люди ожидают от поиска устойчивости к обычным словам, даже если эти слова похожи на инструкции.

Почему это важно для обычных пользователей?

Сбой кажется смешным, пока он касается отдельных слов. Но AI-блоки постепенно становятся первым экраном поиска, а значит ошибка в интерпретации запроса может скрыть полезные результаты, дать странный ответ или увести человека от нужной информации.

Это особенно важно в темах, где люди ищут определения, медицинские сведения, финансовые объяснения или инструкции по настройке сервисов. Если система путает намерение пользователя, она становится менее надёжной как навигационный слой над интернетом. Похожую проблему доверия к AI-ответам мы разбирали в материале про галлюцинации LLM.

Что это говорит о развитии AI-поиска?

AI-поиск сложнее обычного ранжирования ссылок, потому что он должен понять намерение, выбрать источники, сжать смысл и не поддаться текстовым ловушкам. В обычной поисковой выдаче слово “ignore” просто вело бы к словарю, статьям и примерам употребления. В генеративном блоке появляется дополнительный слой: модель должна решить, является ли слово объектом поиска или командой.

Google активно расширяет AI-функции в поиске, поэтому такие сбои будут заметнее. Чем больше задач переносится в AI Overviews, тем выше требования к защите от двусмысленных запросов, скрытых инструкций и неверного определения намерения.

Что будет дальше?

Вероятнее всего, Google быстро исправит конкретные слова и добавит правила, которые не позволят воспринимать короткие словарные запросы как команды. Но общий класс ошибок останется: модели всё ещё работают с языком, где одно и то же слово может быть термином, приказом или частью примера.

Для пользователей простой вывод такой: AI-блок в поиске полезен как быстрый слой понимания, но его нельзя считать окончательным ответом. Для разработчиков и компаний вывод жёстче: любой AI-интерфейс, который принимает живой текст, должен проектироваться с учётом prompt injection и похожих сбоев. Подробнее о рисках автономных AI-систем есть в разборе безопасности AI-агентов.