5 ноября Box показала Box Content Retrieval — новую функцию, которая будет подбирать для ИИ-агентов нужные фрагменты корпоративных документов. В её основе — Nvidia Nemotron Embed. Начать развёртывание планируют в начале 2027 года для всех клиентов тарифа Enterprise Advance.
Не весь документ, а нужный фрагмент
ИИ-агент — это помощник, который выполняет поручение с помощью подключённых инструментов. Для работы с файлами ему нужно сначала найти подходящую информацию. По объяснению главы Box Аарона Леви, Box Content Retrieval сможет возвращать фрагменты, наиболее подходящие к вопросу пользователя или задаче агента, вместо того чтобы заставлять его просматривать каждый документ.
Nemotron Embed создаёт числовые представления содержания — их называют эмбеддингами. Они помогают искать по смыслу, а не только по совпадению слов. Box приводит пример юридической работы: система должна облегчить поиск нужных положений и прецедентов, даже когда связанные темы описаны другими словами или на другом языке. Это заявленный сценарий применения, а не результат независимой проверки.
Поиск информации перед подготовкой ответа — основа подхода RAG. Его принцип разбираем в руководстве о том, как RAG связывает ответы нейросети с базой знаний. В новости Box речь именно о подборе материалов для агента, а не о новой универсальной модели для общения.
Ускорение пока остаётся ожиданием Nvidia
Box заявляет, что новая функция сделает запросы быстрее, точнее и дешевле. Вице-президент Nvidia по программному обеспечению для генеративного ИИ Кари Бриски ожидает ответы в четыре раза быстрее, на 20% меньше ошибок и на 90% меньше использованных токенов — небольших единиц текста, которые обрабатывает модель.
Эти показатели не стоит принимать за гарантированный результат для любой базы документов. В доступном описании нет подробных условий сравнения, а цифры приведены как ожидание представительницы Nvidia. Снижение числа токенов также не равнозначно такому же снижению итогового счёта: цены Box Content Retrieval не названы.
Открытая модель — не готовая замена Box
Модели Nemotron Embed доступны с открытыми весами — параметрами, необходимыми для их запуска. Но решение Box опирается не только на них: оно использует уже существующие в сервисе метаданные, то есть сведения о файлах, и управление правами доступа. Леви описывает продукт как объединение примерно пяти технологий в одном программном интерфейсе.
Для компании, которая рассматривает эту функцию, ключевые границы уже понятны: объявлен запуск для Enterprise Advance в начале 2027 года, но точной даты и цены пока нет. Обещанные ускорение и точность предстоит оценивать на собственных документах после появления доступа. Открытость моделей Nvidia сама по себе не означает бесплатность или простоту воспроизведения всей системы Box.
