Anthropic: Message Threads сокращает ожидание начала ответа в длинных диалогах на 35%

3 мин чтения 3
Anthropic: Message Threads сокращает ожидание начала ответа в длинных диалогах на 35%

Anthropic выпустила Message Threads — открытую бета-версию функции для приложений на Claude. По данным компании, при очень длинных диалогах она сокращает время до начала ответа примерно на 35%: приложению больше не нужно каждый раз отправлять всю историю разговора.

Что изменилось в передаче переписки

Речь идёт о работе через API — интерфейс, с помощью которого другие программы обращаются к Claude. Раньше каждый такой запрос требовал повторной отправки всей истории диалога. Message Threads передаёт только то, что изменилось после последнего сообщения.

Представьте приложение, в котором вы последовательно обсуждаете большой набор документов. Это учебный пример: при очередном уточнении новая функция позволяет передать добавления, а не пересылать заново весь накопленный разговор. При этом сам Claude по-прежнему читает полную историю — меняется способ её передачи, а не объём доступного модели контекста.

К чему относятся заявленные 35%

Anthropic сообщает о сокращении времени до первого фрагмента ответа примерно на 35% для запросов объёмом от 500 тысяч до миллиона токенов. Токены — это небольшие части текста или других данных, которыми модель измеряет объём входной информации.

Здесь существенно именно слово «начала». Эта цифра не означает, что весь ответ создаётся на 35% быстрее или что любое короткое сообщение получит такой же выигрыш. Заявленный результат относится к указанному диапазону объёма запросов, а не ко всем разговорам с Claude.

Кому полезно и что с расходом токенов

По словам компании, больше всего от функции выигрывают программные помощники для написания кода, агенты, выполняющие действия на компьютере, и процессы с большим количеством документов или изображений. Для читателя это прежде всего новость об устройстве таких приложений, а не обещание ускорения каждого сообщения в обычном чате.

Расход токенов не меняется: Claude всё равно обрабатывает всю историю. Поэтому заявленное сокращение ожидания нельзя считать подтверждением экономии токенов. Отдельный механизм повторного использования уже обработанной части запроса разбираем в материале о промпт-кэшировании и экономии на повторных запросах.

Где доступна функция и сколько живёт история

Между запросами цепочка сообщений остаётся в памяти в зашифрованном виде. После пяти минут бездействия срок её хранения истекает. Это ограничение нужно учитывать отдельно от показателя скорости: оно описывает хранение цепочки, а не длительность генерации ответа.

Message Threads доступна в открытой бета-версии на платформе Claude, а также через AWS, Microsoft Foundry и Google Cloud. Главный практический вывод для тех, кто выбирает или разрабатывает приложение с длинными диалогами: оценивать время ожидания начала ответа и расход токенов нужно раздельно. В этой новости улучшение заявлено для первого показателя, но не для второго.

Материал был полезен?
AI-инструменты без границ

Получите доступ к нужному AI-сервису уже сегодня

ChatGPT, Claude, Gemini, MiniMax и агенты для кода — предложения проверенных продавцов по доступным ценам. Оплата российскими картами, через СБП или криптовалютой.

Проверенные продавцы Быстрая выдача Доступные цены
Прокрутить вверх